- 会員限定
- 2024/02/02 掲載
「ChatGPT生みの親」サム・アルトマンはなぜ世界を変えられた?目指す「終点」とは
連載:企業立志伝
1956年広島県生まれ。経済・経営ジャーナリスト。慶應義塾大学卒。業界紙記者を経てフリージャーナリストとして独立。トヨタからアップル、グーグルまで、業界を問わず幅広い取材経験を持ち、企業風土や働き方、人材育成から投資まで、鋭い論旨を展開することで定評がある。主な著書に『世界最高峰CEO 43人の問題解決術』(KADOKAWA)『難局に打ち勝った100人に学ぶ 乗り越えた人の言葉』(KADOKAWA)『ウォーレン・バフェット 巨富を生み出す7つの法則』(朝日新聞出版)『「ものづくりの現場」の名語録』(PHP文庫)『大企業立志伝 トヨタ・キヤノン・日立などの創業者に学べ』(ビジネス+IT BOOKS)などがある。
・著者:桑原 晃弥
・定価:800円 (税抜)
・出版社: SBクリエイティブ
・ASIN:B07F62BVH9
・発売日:2018年7月2日
前編はこちら(この記事は後編です)
「目指すもの」が見えなかったOpenAI創生期
グーグルなどから優秀な人材を集めてスタートしましたが、ジャーナリストである小林雅一氏の「サム・アルトマンの『OpenAI』はどのように生まれ、進化し、この先どこへ向かうのか?」によると、そもそもの目標である「AGI(Artificial General Intelligence)」(汎用人工知能)の定義がはっきりせず、メンバーは「朝から晩までおのおの好き勝手な研究に取り組んでいた」といいます。
研究は進めるし、論文も発表するものの、会社として何を目指し、何を作ろうとしているかがはっきりと見えていなかったということでしょう。
転機はグーグル研究チームの論文、「GPT」誕生
転機は2017年に訪れます。グーグルの研究チームが「Attention Is All You Need」という論文で「Transformer」(トランフォーマー)と呼ばれる「高精度で学習時間も短い自然言語処理タスクにおける強力なネットワーク」を提唱したことで、それまでなかなか進まなかった言語モデルの研究に突破口をもたらすことになります。Transformerは、データのどこに注目すべきかを推測するAttentionという機構のみでネットワークを構築、文章中のどの単語に注目すればその文章を理解しやすいかを判断することで、それまでの言語モデルが支離滅裂な文章しか出力できなかったのに対し、人間に近い文章を出力できる可能性が生まれたのです。
元グーグルでOpenAIに参画していたイリヤ・サツケバー氏はこの論文を読み、「これこそ、我々の待ち望んでいたものだ。これこそ(従来の言語モデルに欠如していた)最後のピースだ」と感想を口にし、以後、OpenAIはTransformer方式による新しい言語モデルの開発へ進むこととなります。
そこから生まれた言語モデルが「GPT(Generative Pre-trained Transformer)」で、これまでに世界各国の研究チームが作り上げたどの自然言語処理システムよりも高い能力を有していました。 【次ページ】イーロン・マスク氏との対立、新たな壁に直面
関連タグ
PR
PR
PR