記事 最新ニュース 日経平均は続落で寄り付く、米金利上昇でハイテク株安 一時3万2000円割れ 日経平均は続落で寄り付く、米金利上昇でハイテク株安 一時3万2000円割れ 2023/09/27 出典:ロイター
記事 最新ニュース 大規模緩和、柔軟化望ましい=物価目標判断、来年初の見方も―日銀7月会合 大規模緩和、柔軟化望ましい=物価目標判断、来年初の見方も―日銀7月会合 2023/09/27 出典:時事通信社
記事 最新ニュース 物流24年問題、広がる企業連携=出荷情報デジタル化、共同輸送―日用品や製紙業界 物流24年問題、広がる企業連携=出荷情報デジタル化、共同輸送―日用品や製紙業界 2023/09/27 出典:時事通信社
記事 システム開発総論 【文系でもわかる】ChatGPTのキモ「Transformer」「Attention」のしくみ 【文系でもわかる】ChatGPTのキモ「Transformer」「Attention」のしくみ 2023/09/27 第1回は、さまざまなタスクをこなす万能型ジェネレーティブAIツール「ChatGPT」の性能の鍵を握る「トークン長(GPTが文脈を意識できる過去の単語数)」やGPTの歴史的経緯について解説しました。第2回はGPTを支える自然言語処理 の分野で使用される深層学習モデル「Transformer」とその根幹となる「Attention機構(そのタスクにおいてどの単語の重要度が高く、注目すべきか決める仕組み)」についてです。TransformerとAttention機構の仕組みを定性的に把握し、それを踏まえてGPTの能力と可能性について考察したいと思います。テクノロジー領域に明るくない人でもわかる記事を目指します。