Metaのチーフサイエンティストが語る、機械学習の最前線(前編)

今回は「Metaのチーフサイエンティストが語る、機械学習の最前線(前編)」についてご紹介します。

関連ワード (ビッグデータ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Yann LeCun氏はベル研究所に在籍していた30年前、画像認識などのタスクを解決する上で極めて有望だと考えられる「畳み込み神経回路網」(CNN)という機械学習(ML)アプローチを確立した。そしてCNNは今や、人工知能(AI)分野のディープラーニング(DL)を支える主力テクノロジーと認識されるまでになり、同氏は2019年にコンピューティング分野のノーベル賞に相当する「ACM A. M. チューリング賞」(ACM A. M. Turing Award)を受賞した。

 ニューヨーク大学の教授であり、MetaのチーフサイエンティストでもあるLeCun氏は、3月21日の週に米ZDNetが実施したインタビューにおいて、最近はこの30年間で最もエキサイティングな日々と送っていると語った。同氏はその理由として、新たな発見によって、CNNのようなAI分野の実用性を向上させる可能性のある長きにわたる議論が活性化されている点を挙げている。

 LeCun氏が現在取り組んでいる最先端分野は、エネルギーベースモデル(EBM)と呼ばれているものだ。ここでの確率関数は、「確率変数、あるいは確率変数群が各状態に与える影響を描写するもの」(参照:「Deep Learning」Ian Goodfellow、Yoshua Bengio、Aaron Courville著–2016年)であり、EBMは2つの変数間の調和を単純化するものとなる。統計物理学のコンセプトを用いているEBMでは、2つの変数間のエネルギーは、均衡が取れていない場合に上昇し、調和している場合に低下すると考えている。これにより、確率分布を「正規化」する際に発生する複雑さを除去できるようになる。

 ML分野におけるこのアイデアは、少なくとも1980年代にまでさかのぼる古いものだが、その時以来、EBMをより実用的にするための進歩が生み出されてきている。LeCun氏は近年、自らの思索の深まりを機会あるごとに発表してきている。米ZDNetも報じているが、ニュージャージー州プリンストン市にあるプリンストン高等研究所(IAS)で実施した2019年の講演もその1つだ。

 また同氏は最近も、2つの論文を通じてEBMの現状を報告している。それらは2021年夏にFacebook(現Meta)の人工知能研究所(FAIR)の同僚らとの共同研究として発表した「Barlow Twins:Self-Supervised Learning via Redundancy Reduction」(Barlow Twins:冗長性削減による自己教師あり学習アルゴリズム)と、2022年1月にFAIRおよびフランス国立情報学自動制御研究所(INRIA)のAdrien Bardes氏と、フランス高等師範学校(ENS)のJean Ponce氏との共同で発表した「VICReg:Variance-Invariance-Covariance Regularization for Self-Supervised Learning」(VICReg:自己教師あり学習に向けたバリアンス-インバリアンス-コバリアンスの正規化)だ。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
PoCの問題は技術ではなく人や組織にある–ガートナーがエンジニアの将来を展望
IT関連
2024-04-04 10:48
「freee会計」、改正電子帳簿保存法対応のファイルボックス機能を全プランで提供開始
IT関連
2022-01-19 21:31
10年前に「ムーアの法則が終わる」と言われた頃から現在までのサーバ進化の技術的模索を振り返る(前編)
サーバ
2023-09-13 01:20
ハードは飛躍的に進化したPS5だが、ソフト不足・品不足は深刻
ゲーム / eSports
2021-01-31 09:17
ZVC JAPAN、「Zoom Contact Center」を提供–迅速かつパーソナライズされた顧客対応を可能に
IT関連
2023-07-08 08:47
ゲームインフラのスタートアップPragmaはGreylockやZyngaの創設者などから約13億円調達
ゲーム / eSports
2021-04-22 09:29
有料になった「Googleフォト」を使い続けるメリットとは? 企業の狙いとともに考察 :Google フォトの容量無制限終了で考える(1/2 ページ)
クラウドユーザー
2021-06-12 10:54
切っても茶色くならないリンゴの品種育成を加速、リンゴ果肉の変色に関わる染色体領域を特定
IT関連
2022-01-25 13:04
マルチクラウド利用の急増を強調したグーグル・クラウドの思惑
IT関連
2022-04-15 23:23
Disney+、2022年後半に広告付きの低価格サブスクを導入
IT関連
2022-03-06 02:40
NASAが火星探査機のパラシュートに込めたメッセージとは?
企業・業界動向
2021-02-25 13:44
NTTデータとNTTドコモの法人向け事業の気になる関係
IT関連
2023-11-18 14:22
5万800円の2 in 1タイプChromebook「ASUS Detachable CM3」発売、ペンも収納可能
ハードウェア
2021-03-18 09:47
Appleの「AirTag」は紛失防止タグの“黒船”か 既存製品との違いをチェック (1/2 ページ)
くわしく
2021-04-22 11:11