2021年4月16日金曜日

再帰的線形学習アルゴリズム

ニューラルネットワーク型ディープラーニングの新しいアルゴリズムを創った。

これまでのレーヤー(層)に依存した方法では、リアルな脳の柔軟性には近づけない。シナプス結合はそんなシステマティックではないと思う。ニューロンの冗長性を活かしたアルゴリズムにした。

組み込んだ学習アルゴリズムは、バックプロパゲーション(誤差逆伝播)の精密さよりも、もっとシンプルで荒っぽい。脳のニューロンは精密な計算はしていないはずだから。

再帰的線形学習アルゴリズムとよぶことにした。(Linear Recursive Learning Algorithm)

階層なしで1000個ないしは2000個のニューロンで、Mnistの手書き数字認識をさせた。パフォーマンスはやや劣るが、単純な学習アルゴリズムで90%程度の正解は確保できる。自分的には合格だが、一般的には正解率は99%だ。もっと単純さを活かしたまま改良したい。

アリのニューロン数は、25万個らしい。このアルゴリズムで、7万個程度までは、自作のCore i9-9920XのLinuxマシンでもニューロンを増やせる。もう少し複雑なパターン認識にも挑戦させたい。

ある程度纏まったら論文にしたい。

0 件のコメント:

コメントを投稿

注: コメントを投稿できるのは、このブログのメンバーだけです。

「嚶鳴寮の時代」とはなんであったのか

 神戸大学に赴任したのは40歳の時だから、31年前だ。その頃、昔、学生だった同じ時間を共有した嚶鳴寮生用にメーリングリストを立ち上げた。最近は30人ほどが登録していた。長年、運用と管理をしてきたが、それを一方的(全体の了解もなしにの意)に、今度閉鎖することにした。その時の通知文を...