1986年10月9日(『ネイチャー』論文刊行) / 南北アメリカ

誤差逆伝播の論文が多層ネットワークによる内部表現の学習を示す

ラメルハート、ヒントン、ウィリアムズは、出力誤差を使って重みを調整することで、隠れユニットが課題に役立つ特徴を学習できると示した。

3層のノードと、順方向の矢印、損失勾配の表示がある戻り矢印。
現代の科学図解順方向の計算と逆方向の勾配伝播を備えた小規模なニューラルネットワークの、現代の学習用の図。1986年論文の正確なネットワークや図でも、測定された学習結果でもなく、誤差逆伝播が1986年に始まったという主張でもない。CivAtlas · CivAtlas(独自制作の科学図) · CC0 1.0 Universal 画像の出典と利用条件

記事

1986年の『ネイチャー』論文は、出力誤差の導関数をネットワーク内で逆向きに伝播させ、結合の重みを学習目標へ向けて調整する方法を説明した。これは多層ネットワークと学習された表現の研究を前進させた。逆モード微分や関連する学習の考えには、先行する歴史がある。3人の著者が1986年にすべての要素を発明したわけではない。また、この数学的モデルが、生物の脳も同じ仕組みで学習すると立証したわけでもない。

つながりと背景

誤差逆伝播は微積分の連鎖律を用い、数理最適化を機械学習と結びつける。その後、より大きなネットワーク、データセット、計算ハードウェアが応用を広げ、慎重な評価の必要性も高めた。

年代と精度

1986年10月9日(『ネイチャー』論文刊行) 記録された日付

記録された年・月・日に基づいて位置づけています。不明な精度を推定で補ってはいません。

地図の代表地点

サンディエゴと大学をまたぐ共同研究

ラメルハートとウィリアムズのカリフォルニア大学サンディエゴ校での活動を表す。論文にあるヒントンの所属はカーネギーメロン大学だった。

代表地点の座標 · 32.8801°, -117.234°

地点は、写本の所蔵先、実験室、観測地など、一つの代表的な場所を示します。研究がそこでしか行われなかったことを意味せず、共同の発見を一つの国に帰属させるものでもありません。

参考文献

  • ラメルハート、ヒントン、ウィリアムズ | Learning representations by back-propagating errors(誤差の逆伝播による表現の学習)
  • 著者が公開する1986年の『ネイチャー』論文

参考資料は、外部リンクなしの書誌タイトルとして表示します。個々の事実や背景を支えるもので、記事のすべての解釈を保証するものではありません。日本語版は英語版の本文を翻訳し、英語版が独立に選定した参考資料の原URLを保持しています。日本語の原資料であることや、日本語を母語とする編集者による独立した校閲が済んでいることを示すものではありません。

改善にご協力ください

CivAtlas · メール購読

CivAtlasで探究を続ける

CivAtlasの新しい歴史の物語やプロジェクトの情報をメールで受け取ります。

購読フォームを開いています…