MIT研究者が新たな情報に適応していく「流動」ニューラルネットワークを開発

今回は「MIT研究者が新たな情報に適応していく「流動」ニューラルネットワークを開発」についてご紹介します。

関連ワード （MIT、ニューラルネットワーク等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、TechCrunch様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

最初の訓練を受けた後、その基礎となる動作を適応させることができる新しいタイプのニューラルネットワークは、自動運転やロボットの制御、病状の診断など、状況が急速に変化する状況において、大きな改善の鍵となる可能性がある。このようないわゆる「流動」ニューラルネットワークは、MITコンピュータ科学・人工知能研究所のRamin Hasani（ラミン・ハサニ）氏と彼のチームによって考案されたもので、訓練段階の後、実際に現場で行われる実用的な推論作業に従事する際に、AI技術の柔軟性を大幅に拡大する可能性を秘めている。

通常、ニューラルネットワークのアルゴリズムは、関連する大量のターゲットデータを与えられて推論能力を磨き、正しい応答に報酬を与えて性能を最適化する訓練段階を経ると、基本的には固定化される。しかし、ハサニ氏のチームは、彼の「流動」ニューラルネットが、新しい情報に反応して、時間の経過とともに「成功」のためのパラメータを適応させていく方法を開発した。これは、たとえば自動運転車の認知を担うニューラルネットが、晴天から大雪に変わった場合、状況の変化に対処して高いレベルの性能を維持できるようになることを意味する。

ハサニ氏とその共同研究者達が開発した方法が従来と大きく異なる点は、時系列的な適応性に焦点を当てていることだ。つまり、基本的に多数のスナップショットや時間内に固定された静的な瞬間からなる訓練データに基づいて構築されるのではなく、流動ネットワークは本質的に時系列データ、つまり孤立したスライスではなく、連続的なイメージを考慮しているということである。

このように設計されているため、従来のニューラルネットワークと比較すると、研究者による観察や研究がよりオープンになるということでもある。この種のAIは一般的に「ブラックボックス」と呼ばれている。なぜなら、アルゴリズムを開発している人たちは、入力したものや成功した行動を奨励して決定するための基準は知っていても、成功につながるニューラルネットワークの中では何が起こっているのかを正確に判断できないからだ。この「流動的」なモデルは、より透明性が高く、より少数の、しかし洗練されたコンピュートノードによって構成されるため、コンピューティングにかかるコストが低くなる。

一方、パフォーマンスの結果は、既知のデータセットから未来の値を予測する精度において、他のシステムよりも優れていることを示している。ハサニ氏と彼のチームの次なるステップは、このシステムをさらに優れたものにする最善の方法を明らかにし、実際の実用的なアプリケーションで使用できるように準備することだ。

画像クレジット：imaginima / Getty Images

【原文】

A new type of neural network that’s capable of adapting its underlying behavior after the initial training phase could be the key to big improvements in situations where conditions can change quickly — like autonomous driving, controlling robots or diagnosing medical conditions. These so-called “liquid” neural networks were devised by MIT Computer Science and Artificial Intelligence Lab’s Ramin Hasani and his team at CSAIL, and they have the potential to greatly expand the flexibility of AI technology after the training phase, when they’re engaged in the actual practical inference work done in the field.

Typically, after the training phase, during which neural network algorithms are provided with a large volume of relevant target data to hone their inference capabilities, and rewarded for correct responses in order to optimize performance, they’re essentially fixed. But Hasani’s team developed a means by which his “liquid” neural net can adapt the parameters for “success” over time in response to new information, which means that if a neural net tasked with perception on a self-driving car goes from clear skies into heavy snow, for instance, it’s better able to deal with the shift in circumstances and maintain a high level of performance.

The main difference in the method introduced by Hasani and his collaborators is that it focuses on time-series adaptability, meaning that rather than being built on training data that is essentially made up of a number of snapshots, or static moments fixed in time, the liquid networks inherently considers time series data — or sequences of images rather than isolated slices.

Because of the way the system is designed, it’s actually also more open to observation and study by researchers, when compared to traditional neural networks. This kind of AI is typically referred to as a “black box,” because while those developing the algorithms know the inputs and the the criteria for determining and encouraging successful behavior, they can’t typically determine what exactly is going on within the neural networks that leads to success. This “liquid” model offers more transparency there, and it’s less costly when it comes to computing because it relies on fewer, but more sophisticated, computing nodes.

Meanwhile, performance results indicate that it’s better than other alternatives for accuracy in predicting the future values of known data sets. The next step for Hasani and his team are to determine how best to make the system even better, and ready it for use in actual practical applications.

（文：Darrell Etherington、翻訳：Hirokazu Kusakabe）