情報の森

見方をかえてみる 世界をかえてみる

私の機械学習習得のプロセス

機械学習の数学的なしくみ、構造を学ぶ

かなりの熱量がある人ならば、数式を理解できなくても、日常語で理解できていればよいと思います。

しかし、基本的には数学的に記号を使って完全に理解できることが望ましいと思います。

微分」「線形代数」「確率・統計」

が主に必要となります。

 

コンピュータを使った計算方法を学ぶ

機械学習には、大量な計算が必要です。

そのため、成果が速くほしい私たちは計算機、つまりコンピュータに計算を任せるのです。

コンピュータは理解できる言語が決まっていて、その言語は複数あります。

私は最初の言語として、Pythonを選びました。

 

実際に機械学習をしてみる

あとは、調べたいデータを数値化して、どのように計算すればよいか数学的な構造を決めて、計算するだけです。

 

おめでとうございます。

あなたも機械学習エンジニアの一人です。

物語分析

主人公:関係性を正に動かす

信者:主人公の活動を促進する

起動人:主人公を生み出す

超人:他とは別の関係性で動く

ライバル:主人公と別に関係性を正に動かす

エネミー:関係性を負に動かす

 

主人公:小豆男

助手:油脂女

助手:牛脂犬

信者:庶民

起動人:果汁爺

エネミー:菌類男

 

主人公:凡人

主人公:自立計算機

助手:淑女

ライバル:大丈夫

ライバル:賢者

エネミー:成金

 

主人公:青年

起動人:赤髪

起動人:金塊男

助手:乗組員

信者:多数

ライバル:海賊

エネミー:権力

 

主人公:差別主義者

起動人:悪魔

助手、信者:恋人

エネミー:民主主義者

 

主人公:青年

起動人:父親

助手:

ライバル:兄

エネミー:人類

音楽理論の勉強方法【楽曲分析】

現代において、一から音楽を作る人は存在しません。
そもそも、ドレミファソラシドにしても、スケールにしても、楽器にしても、先人達が作り上げてきたものです。
それらを用いることには躊躇しないのに、先人達のメロディやコード、構成などを用いることに抵抗があるのは、不思議にことだと思いませんか。

ということを前提として、今回は楽曲分析の重要性、方法について紹介しています。

 

最も効果的な音楽理論学習

既存楽曲の分析が、一番勉強になります。

なぜならば、音楽理論はいまだにすべての理屈が言語化されているわけではないからです。

自分が好ましいと思う音を再現するには、自分の耳で聞いて、心で感じて実際に模倣することが一番の近道なのです。

 

分析方法

一番良い方法は、自分が良いと思ったところを、なぜ良いのか考えながら繰り返すことです。
その場所で用いられている楽器、エフェクト、収録されている場所の広さなどを、考えながら聞くことです。

DTMソフトなどを持つ人は、その自分の好きな音を完全再現するのもよいと思います。

 

最後に

ひたすらに自分の好きな音の模倣を繰り返していると、いずれはそれらの音の集まりが、自分オリジナルのものへと変わってきます。

是非音楽を楽しみながら、自分だけの音を探してみてください。

マクスウェルの悪魔を咀嚼する

この記事では、マクスウェルの悪魔を様々な角度から解説していきます。

 

本記事を読み終えたときには、マクスウェルの悪魔について、歴史背景についても科学における意義についても知ることができます。

 

知的好奇心旺盛な方は是非チェックしてみてください。

 

 

 

 

マクスウェルの悪魔とは

ハロウィンの仮装が何よりの楽しみな娘の写真素材-ぱくたそ

マクスウェルの悪魔Maxwell's demon)とは、1867年ごろ、スコットランドの物理学者ジェームズ・クラーク・マクスウェルが提唱した思考実験で想定される架空の存在のことです。

分子の動きを観察できる架空の存在を想定すると、熱力学第二法則に反するエントロピーの減少が可能となってしまう場合があるのです。

ja.wikipedia.org

 

 

マクスウェルの思考実験の内容

 

①均一な温度の気体で満たされた容器を用意する。

(温度は均一でも個々の分子の速度は決して均一ではない)

 

②この容器を小さな穴の空いた仕切りで2つの部分 A, B に分離する。

ここで個々の分子を見ることのできる「存在」がいてこの穴を開け閉めできるとする。


③「存在」は、素早い分子のみを A から B へ、遅い分子のみを B から A へ通り抜けさせるように、この穴を開閉するとする。


④この過程を繰り返すと「存在」は仕事をすることなしに、 A の温度を下げ、 B の温度を上げることができる。

 

これは熱力学第二法則と矛盾してしまいます。

 

マクスウェルが仮想したこの「存在」をケルヴィン(1874年)は、「Maxwell's intelligent demon」(マクスウェルの知的な悪魔)と名付けました。

 

 

解決に至る道のり

悪魔のような笑顔で経典を読み上げる高校教師の写真素材-ぱくたそ

エネルギーの散逸を必要としないマクスウェルの悪魔を認めれば、永久機関が実現できることになってしまいます。

マクスウェルの悪魔は1世紀以上科学者を悩ませました。

人類がマクスウェルの悪魔の正体を見破るまでの過程をみてみましょう。

 

マクスウェルの悪魔の問題は

・観察により情報を得るという情報論的な概念

統計力学ひいては熱力学

 

の間の関係を問う問題であり、量子論とは別の角度から物理学にとって観測とは何かという問題を提起するものでした。

 

情報論的なアプローチ

この問題に格闘する過程で、現在の情報科学につながる重要な知見が生み出されました。

1929年、物理学者レオ・シラードはマクスウェルのモデルを単純化して 1 分子のみを閉じ込めたシラードのエンジンと呼ばれるモデルを用い、 悪魔が同じ大きさの 2 つの部屋のどちらに分子があるかを観測するということにより、

ΔS = k ln 2                    (k:ボルツマン定数)

だけのエントロピーが減少することを示しました。

この 情報量ΔS は現在 1 ビットと呼ばれています。

このことは、元々気体運動に対して構築された概念であるエントロピーと、情報を得るということの間の深いつながりを明らかにしました。

 

また、ボルツマン定数とは実は情報量の単位と物理学の単位を変換する比例定数であることを明らかにしました。

 

シラードは、熱力学第二法則より全体の系のエントロピーは減少しないので、悪魔が観測で情報を得ることが、それ以上のエントロピーの上昇を伴うだろうと結論しました。

実際1951年、レオン・ブリユアンとデニス・ガボールはそれぞれ独立に悪魔を光による観測に置き換えて物理的解析を行ない、その観測の過程で相応するエントロピーの増大が起こることを示しました。

以上より、観測にはエネルギー散逸が伴うのだという主張が、マクスウェルの悪魔に死を宣告するものだと考えられてきました。

 

統計力学・熱力学的なアプローチ

ところが1973年、IBMチャールズ・ベネットは、熱力学的に可逆な観測が可能であり、こうした観測においてはブリユアンらが指摘したようなエントロピーの増大が必要ないことを示しました。

 

一方で1961年、同じく IBM のロルフ・ランダウアーによって、

コンピュータにおける記憶の消去が、ブリユアンの主張した観測によるエントロピーの増大と同程度のエントロピー増大を必要とする(ランダウアーの原理)

ことが示されていました。

 

ベネットが甦らせた問題は、このランダウアーの原理と組み合わせることによってベネット自身により解決されたのです(1982年)。

 

エントロピーの増大は、観測を行なったときではなく、むしろ行なった観測結果を「忘れる」ときに起こります。

悪魔が分子の速度を観測できても、観測した速度の情報を記憶する必要があるが、悪魔が繰り返し働くためには窓の開閉が終了した時点で次の分子のためにその情報の記憶は消去しなければなりません。

情報の消去は前の分子の速度が速い場合も遅い場合も同じ状態へ遷移させる必要があるので、熱力学的に非可逆な過程です。

このため悪魔の振る舞いを完全に完了させるためには、エントロピーの増大が必然となります。

 

現在のマクスウェルの悪魔

ベネットの「解決」は発表後多くの議論を巻き起こし、基本的には受け入れられたかにみえる現在もなおマクスウェルの悪魔に関する文献は増え続けています。

 

「情報消去は論理的に不可逆なので、熱力学的にも不可逆である」という議論は、沙川貴大によれば誤りです。

悪魔と第二法則の整合性を理解するために情報消去を考える必要は、そもそもないのです。

 

1990年代以降の非平衡統計力学の発展により、熱力学第二法則がわずかな確率で破れることと、その確率が特定されました。

 

初期のランダウアーの原理は特殊な状況に限られるもので、一般的には消去と測定に必要な仕事の和に対して下限が存在するということが明らかになっています。

 

W測定 + W消去 ≧ kBT I ≧ W出力 .     (相互情報量 I )

これが Maxwell の悪魔と熱力学第二法則との整合性に関する現在の解釈です。

 

(2010年、鳥谷部祥一、沙川貴大らは、世界で初めて情報によって熱エネルギーが仕事に変換されることを確認したと発表した。)

現実世界に潜む悪魔

エントロピーの概念の拡張

シラードのエンジンの議論によって、我々がその状態をわかっているメモリは、我々にとって 1 ビットあたり kT ln 2 のエネルギーを持つと考えることができます。

 これは我々が

・対象の状態を知っていることが秩序としてエントロピーを下げ

・知らないことがエントロピーの大きな乱雑さを表す

という日常的なエントロピーの解釈を情報の概念を通じて熱力学的なエントロピーに実際に結び付けているのです。

 

可逆過程

ランダウアーの原理は記憶の消去のような非可逆な計算に原理的なエントロピーの増加が伴うことを示しました。

一方、情報を失わないような可逆な計算ならば、このような散逸は必要ありません。

こうした可逆計算は調べられてきており、 量子計算においては、結果を得るための観測過程以外のすべての計算過程はこのような可逆なものである必要があります。

 

生命システムにおける悪魔

また記憶消去時にエントロピーが増大するので、しばらく記憶ができる存在ならば、記憶消去までの間はマクスウェルの悪魔を働かせることができる可能性を秘めています。

生命システムではこのような仕組みが有効に利用されていることが考えられていて、実際に分子の熱運動から一方向の動作を取り出すモデルがイオンポンプや分子モーターに関して提出されており、これらはこのマクスウェルの悪魔に類似しています。

機械学習の基本的な流れ

①データの準備

 

データは全て数字で表せます。たとえば画像は数字の集合体です。形式を決めて、データを集めます。

 

②データの可視化・分析


データから例外を可視化して確認して排除。

 

③データの前処理


データを使用するライブラリに適した形式に整備。

 

④モデルの構築


最適な「モデル」を組み立て、実際に学習させる。

 

⑤モデルの評価・選択


「モデル」が適しているかどうかを検証、評価する。

 

④、⑤を繰り返す。

 

 

代表的な機械学習のためのライブラリ

①Numpy
Numpyは、多次元配列(数学の「行列」)を扱える数値計算ライブラリ。データの前処理を行う。

②pandas
配列の要素の型が全て同じでなくてはならないというNumpyの大きな制約ないのがpandas。表形式のデータを関数で処理することが可能。

③matplotlib
グラフを描画するためのライブラリ。データや学習結果の可視化に使用。

④seaborn
matplotlibの強化版。

⑤scikit-learn
scikit-learnは学習させるためのライブラリで、機械学習においてはメインのライブラリ。学習可能モデルの例は、k-最近傍法、線形モデル、ナイーブベイズクラス分類器、決定木、カーネル法

mecab-python
mecabとは、形態素エンジン。テキストマイニングに使用。

⑦Gensim
Gensimはトピック分析のエンジン。テキストマイニングに使用。

⑧XGBoost・LightGBM
決定木モデルで学習させるためのライブラリ。

⑨Keras
Kerasは、「ニューラルネットワーク」を実装するためのライブラリ。

⑩Tensorflow

Tensorflowは「テンソル行列」を計算するためのライブラリ。

⑪PyTorch
機械学習で出来ることは基本的にPyTorchで可能。

Idea of a perfect day.

What is your idea of a perfect day?

Describe some places, people, or objects that contribute to an enjoyable 24 hours.

 

Answer:

There are three things which I need in my perfect day.

 :that or which:that is more spesific

 which si used when I want to add imformation

I want music session, meditation, and peace world in my perfect day.

 :peace is noun so * world peace :in > on :more specific

I will show the reason why I need these things for my perfect day. 

 :show > explain or tell:

First, I am always dreaming to do music session with new people who like music.

 :First > Firstly: dreaming > hoping or eagar:sessions:

The reason why is that I like to share feelings with othres.

 :the reason is that music sessions arrow me to share feeli....

As Music don't require any languages, so I can share feelings with a lot of people through music regardless what language we can speak.

:never start with as:

Then I need large space and many people who like music.

:I would need large space and peope who like music.

Off course we need some instruments,but if people do music without instruments like singing or dancing,we don't need them.

 :we wouldn't need some instruments however if people do music by singing or dancing they are welcom as well.

Second,I want to do meditation at biggining and endding of perfect day.

:secondly:to maditate at the stayt and the end of 

I like meditation very much because I like being calm and thinking something.

Being calm and thinkling well is always important fpr me because we can't do anything well and enjoy without them.

:we cant make good decition without

I do meditaion after getting up and before going to bed everyday. 

:I madetate

So if I have a lot of time , I want to do meditation in even my perfect day.

So in my even my perfect day I will still meditate

Then I need a quiet place for meditaion because I want to concentrate meditaion without annoying.

:never start with as and then.

Also,I eagar to peace full world because I can't enjoy if there is a war in the world.

If there are wars,that day must not be perfect day because I think ones really happy life doesn't be on others bad life.

I hope the world that everyone are happy.

:I hope for a world where everyone is happy.

And I want to feel that kind of world with joy.

:I want to enjoy linving in that kind if the world.

I think that feeling must be really good.

 

So my plan of perfect day is that I will do meditation for an hour first.

:In conclusion,

And I will enjoy thinking in the peace full world.

After meditation,I will enjoy music with people who like music and share our feelings.

After that ,I will do meditaion with thinking and feeling world peace.

And I will go to sleep with thanking for everything. 

It's my perfect day that couldn't be better than anymore.

: this is my perfecr day and it doesn't get any better that that