テックブログ
1. LLMの概要
LLMとは
大規模言語モデル（Large Language Models, LLM）は、巨大なテキストデータを用いて訓練されたAI言語モデルである。これらのモデルは、テキストの生成、翻訳、要約、質問応答など多岐にわたる自然言語処理タスクに応用され、人間に近い自然な会話が可能であるため今注目を置かれている。
LLMの歴史
出典: https://arxiv.org/abs/2304.13712
-
Transformerの発明(2017年)
LLMの開発は2017年に、Transformerというモデルが提唱されてから加速した。Transformerは従来のモデルよりも、効率的に大量のテキストを処理できるため、現代のLLMモデルの基盤となっている。
-
GPTとBERTの登場(2018年)
22018年には、OpenAIがGPT（Generative Pre-trained Transformer）を、GoogleがBERT（Bidirectional Encoder Representations from Transformers）を発表した。これらのモデルはTransformerを基にしており、言語理解と生成の両面で大きな進歩を遂げた。
-
モデルの大規模化と多様化(2019 ~ )
2019年以降、GPT-2、GPT-3、BERTの拡張版など、さらに大規模で高性能なモデルが開発さた。これらは広範囲な言語タスクに適用可能で、特にGPT-3はその多様な応用可能性で注目を集めた。さらに2020年代に入り、LLMはより大規模で高度なアルゴリズム、倫理的な考慮を組み込む方向で進化を続けている。
2.最新の大規模言語モデル
GPT-4
GPT-4は、テキスト生成AI「Chat-GPT」を提供・運営するOpenAI社が公開した大規模言語モデルであり、GPT-3, 3.5の上位モデルである。従来のバージョンと比べて、生成精度が大幅に向上し、複数の指示を含む高度なプロンプトの意図を汲み取り、生成することが可能である。
-
特徴
- 最新のデータも学習されており、幅広い一般知識とコンテキスト能力を有している。
- 対話形式の応用能力が高く、柔軟な会話が可能
- マルチモーダル機能(テキスト、画像、音声)が最近公開されている。
-
用途
対話型アシスタント、コンテンツ作成、教育など
日本時間の2023年11月7日に開催されたOpenAI DevDayでGPT-4の改良版 GPT-4 Turboが発表された。
PaLM2
PaLM2はGoogleが提供・運営する大規模言語モデルPaLM (Pathways Language Model) をさらに進化させた次世代モデルである。100を超える言語を学習させ、なぞなぞなどの言葉の意味のニュアンスを含む表現を生成、翻訳、理解することができる。
-
特徴
- 言語タスクだけではなく、数学的問題解決・多言語に及ぶプログラムコードのコーディングを実現。
-
4つのモデルのラインナップが存在する。
-
Gecko、Otter、Bison、Unicon
特に、Geckoは非常に軽量であるため、モバイル端末でも操作できる。
-
Gecko、Otter、Bison、Unicon
-
Googleが提供するあらゆるサービスに搭載
- Gmail, Googleドキュメントの下書きのサポート。
- colabと連携することで簡単にモデルが使える。
-
用途
- 複雑な問題解決、多言語対応のアプリケーション、AI研究など
Gemini
Googleが2023年12月6日に発表したマルチモーダル処理性能に特化したモデルである。テキストのほかに、画像、動画、コード、音声などのデータから総合的に判断することができる。GoogleはPaLM2の後継モデルにあたるトレーニング中のモデルで、将来的にBardのバックエンドとして導入することを述べている。
また、PaLM2と同様に、Nano、Pro、Ultraと3つの異なるバージョンが用意されている。
モデル間の比較
| GPT-4 | PaLM2 | Genmini | |
|---|---|---|---|
| 開発者 | OpenAI | ||
|
パラメータ数
(多いほど、生成精度が高い) |
非公開
(5,000億 ~ 1兆と推測されている。) |
非公開
(PaLMが5,400億であるため、それ以上と推測されている。) | 1.6兆 |
| 文字数 | 最大32,768トークン | 最大32,000トークン | proの場合、最大32,000トークン |
| 特徴 | 幅広い一般知識とコンテキスト理解能力 | 数学的問題解決やプログラムコード生成などの能力 | マルチモーダルに特化した性能 |
3.最近のLLMの動向・企業活用事例20
直近のLLMの動向はマルチモーダル機能の搭載
2023年9月25日、OpenAI社がChatGPTに画像解析機能と音声出力機能の追加したGPT-4Vを発表した。今まではテキストのみの入力だったが、これからは画像+テキストなどの組み合わせでプロンプトが表現できるようになり、より柔軟な対話ができるようになった。また、Googleはマルチモーダル生成AI「Gemini」を発表し、Gemini Ultraでは32のベンチマークのうち30のテストで、ライバルである、GPT-4よりも性能を上回った。数学、物理学、歴史、法律、医学、倫理など57の科目の組み合わせて知識と問題解決能力をテストするMMLU（大規模マルチタスク言語理解）では、90.00％のスコアで、人間の専門家を上回るパフォーマンスを示した初のモデルになったと述べた。
-
関連記事
GPT-4V
Gemini
GPT-4Vを使ってみる。
早速、GPT-4Vを使ってマルチモーダルな生成をおこなってみた。今回の検証は、筆者が去年旅行した大阪と、宮古島の与那覇前ビーチに関して聞いてみる。
大阪の道頓堀前
宮古島の与那覇前ビーチ
今回はアプリ版Chat-GPTで生成した。また、GPT-4Vを利用するには、有料版の登録が必要となる。
-
まず大阪の道頓堀について
有名なグリコの走る人から推察し、見事に道頓堀だと当てた。
-
宮古島の与那覇前ビーチについて
与那覇前ビーチまでとはいかないが、橋ときれいな海という情報から推察し、
見事に宮古島と当てた。
LLMの企業の活用事例20
事例1 コカ・コーラ社、OpenAIの生成AI技術をマーケティングに活用 (2023/02/21)
コカ・コーラ社は、マーケティングと消費者体験向けにOpenAIの生成AI技術を活用することを発表した。この技術を用いて、パーソナライズされた広告コピー、画像、メッセージを自動で作成することができる。コカ・コーラ社は、ベインとOpenAIが形成した新しい提携に署名した最初の企業で、この技術の野心的な採用について高く評価されている。
事例2 「Duolingo」にGPT-4搭載、AIとの会話で言語学習を強化 (2023/03/15日)
無料語学アプリ「Duolingo」は、OpenAIの最新大規模言語モデルGPT-4を搭載した新機能「Duolingo Max」を発表した。この機能は、学習者の解答に対する詳細な解説と会話の練習を提供する。Duolingo Maxの購読者は、プレミアム購読「Super Duolingo」の全特典に加え、新しいAI機能「スマート解説」と「ロールプレイ」を利用できる。スマート解説は文脈に応じたAI生成の解説を提供し、ロールプレイでは対話型AIチャットボットを通じて会話力を鍛えることができる。
事例3 MILIZE、ChatGPTを活用した金融アドバイスサービス「MILII TALK（β版）」を開始 (2023/03/28)
株式会社MILIZEは、ChatGPTを活用した次世代金融アドバイスサービス「MILII TALK（β版）」を提供開始した。このサービスでは、LINEでユーザーのお金に関する質問に、次世代金融アドバイザー「MILI」が自動回答する。家計、不動産、年金、保険などの質問に対応し、ユーザーの状況に応じた条件指定や段階的な質問により、より詳細な回答が得られる。
事例4 サイバーエージェント、ChatGPTを活用して広告運用効率化を目指す (2023/04/04)
サイバーエージェントは、OpenAI社の「ChatGPT」を活用し、デジタル広告のオペレーションにかかる作業時間を削減するための「ChatGPTオペレーション変革室」を設立した。この取り組みにより、広告オペレーションの総作業時間を30%削減することを目指している。ChatGPTは、言語理解、文章生成、質問応答、翻訳などに対応する高度な対話型AIであり、サイバーエージェントでは自動回答や社内コミュニケーションの補助を中心に作業時間の効率化を図る。また、顧客情報を含まない形での運用を行い、セキュリティ面にも配慮している。
事例5 DMMイベントテクノロジー、ChatGPTを活用したAIライティング支援サービス「Writing Partner」を開始 (2023/04/04)
DMMイベントテクノロジーは、クリエイティブスタジオtazikuと共同で、ChatGPTのAPIを活用した企業担当者向けAIライティング支援サービス「Writing Partner」の提供を開始した。このサービスは、プレスリリース、メールマガジン、オウンドメディアの記事など、企業内のテキストコンテンツ作成をAIが支援し、コンテンツ作成業務の効率化を図る。DMMイベントテクノロジーのプラットフォームとの統合により、オウンドメディア運用が効率化され、ビジネス成長が加速される。また、各業界の専門家によるコンテンツ作成サポートも提供される。
事例6 エクスペディア、ChatGPTを活用した旅行計画アプリをベータ版で開始 (2023/04/04)
エクスペディアは、ChatGPTを活用した会話型旅行計画機能をアプリ内でベータ版として開始した。この機能により、ユーザーは行き先や滞在先、移動方法、見どころについての推薦を受けられる。また、会話で話し合われたホテルをアプリ内で保存し、旅行計画の整理と予約が容易になる。
事例7 アディッシュ、ChatGPT APIとチャットボットhitobo連携でQ&A自動生成を実現 (2023/04/06)
アディッシュ株式会社は、チャットボット「hitobo」とChatGPTのAPIを連携させ、問い合わせ対応履歴からQ&Aを自動生成する機能を実現した。この連携により、目視による問い合わせ対応履歴の確認とQ&Aの文章作成にかかる時間を大幅に削減し、業務効率化を図る。hitobo管理画面上でQ&A自動生成から公開前の確認、チャットボットへの反映まで一括して行える。また、利用者への即時応答を維持し、修正した回答文をスムーズに反映することが可能となる。この取り組みにより、問い合わせ対応業務の効率化が期待される。
事例8 Comdesk Lead、ChatGPT連携で電話商談の自動要約を実現(2023/04/07)
株式会社Widsleyは、Comdesk LeadにChatGPTの要約機能を実装し、電話商談の自動要約を可能にした。この機能により、IP回線や携帯回線での通話内容を自動文字起こしし、活動履歴やコンタクト画面でテキスト要約ができるようになる。要約は文章形式または箇条書き形式で選択可能で、管理工数の削減、客観的な会話内容の把握、作業工数の削減などのメリットがある。今後のアップデートでは、キーワード・NGワード検出機能の追加などが予定されている。
事例9 MENTAがChatGPT技術を活用したエンジニア向けスキルアップLINEアプリ「教えて、MENTAくん」をリリース (2023/04/07 )
ランサーズ株式会社の子会社であるMENTA株式会社は、ChatGPTの技術を活用したエンジニア向けのスキルアップLINEアプリ「教えて、MENTAくん」をリリースした。このアプリは、プログラミングに関する質問や壁打ちをしてスキルアップすることができる。MENTA公式キャラクターのMENTAくんが、優秀なエンジニアメンターとして回答を提供する。
事例10 ベネッセ、社内AIチャット「Benesse GPT」をグループ社員に提供開始 (2023/04/14)
ベネッセホールディングスは、Microsoft Azure上でAzure OpenAI Serviceを活用したAIチャットサービス「Benesse GPT」の運用をグループ社員約15,000人に向けて開始した。このサービスは、業務生産性向上と新商品サービスの検討を目的としており、社員はイントラネット上でAIチャットサービスを使用できる。Benesse GPTは、情報の2次利用をせず、セキュアな環境下で運用されており、業務効率化と商品開発に向けた技術活用の検証が可能である。今後もバージョンアップを重ね、新たな取り組みを実践する予定である。
事例11 農林水産省、ChatGPTを活用してマニュアル改訂作業の効率化 (2023/04/18)
農林水産省は、対話式AI「ChatGPT」を一部業務で活用することを開始した。この取り組みは、農業や漁業の事業者が使用する補助金申請のマニュアルなどの改訂や修正に焦点を当てている。これまで数千ページに及ぶマニュアルの改訂や修正は毎年業者に委託されていたが、短期間での作業完了が必要であり、文章の表現が分かりにくくなることが課題だった。ChatGPTの活用により、作業の負担を軽減し、利用者にとってより分かりやすいマニュアル作成を目指す。また、対話式AIを活用する文書は公開されており、機密情報は含まれていない。
事例12 KDDI、社員1万人が「KDDI AI-Chat」の利用を開始(2023/05/25)
KDDI株式会社は、2023年5月24日から社員1万人を対象に生成系AIを活用したAIチャットサービス「KDDI AI-Chat」の実業務での利用を開始した。このサービスを通じて、社員は企画業務のリサーチやアイデア出し、クリエイティブ業務支援、文書作成支援などでAIを活用することが可能となる。KDDIは、社員のAIスキル向上、業務効率の最大化、生成系AIを活用したビジネス展開を目指している。
事例13 アサヒビール、AIを活用したビジネス変革に向けた実証実験を完了 (2023/07/27)
アサヒビール株式会社は、日本マイクロソフト株式会社とGoogle Cloudの生成AIを活用したビジネス変革に向けた実証実験を完了した。この実験では、Azure OpenAI Serviceの「GPT-3.5」「GPT-4」とGoogle Cloudの「Vertex AI」の「PaLM2」を使用し、ビジネスプロセスの効率化を目指した。特に、コンタクトセンター業務の実証実験を行い、対話データの要約機能を活用して、オペレーターの負担軽減と処理時間の削減を実現した。
事例14 G-gen、GoogleのPaLM 2を活用したSlack連携チャットボットの導入 (2023/08/09)
G-genは、Google Cloudの生成AIであるPaLM 2を用いて、Slackと連携した簡易チャットボットのPoCを行った。このチャットボットは、社内での運用を通じて機密情報の保護を可能にし、社員が入力したプロンプトの履歴をログとして保存することで、現場の実務を分析し、社員に対する課題や必要なサポート、関心のあるトピックやキーワードを見つけ出すことができる。人事や管理者は、この情報を活用して研修の計画作りなどに役立てることができる。また、Slackからのメッセージを受け取り、それをPaLM 2に転送し、レスポンスを取得してSlackへ返信する流れで機能する。
事例15 ベルシステム24、AIを活用したコンタクトセンター業務の実証実験完了 (2023/10/11)
株式会社ベルシステム24は、日本マイクロソフト株式会社とGoogle Cloudの生成AIを活用したコンタクトセンター業務の実証実験を完了し、事業化に向けて進めている。この実証実験では、Azure OpenAI Serviceの「GPT-3.5」「GPT-4」とGoogle Cloudの「Vertex AI」の「PaLM2」を使用し、コンタクトセンターでの対話データの要約機能を活用した。
事例16 LINEヤフー、全エンジニアに「GitHub Copilot for Business」を導入 (2023/10/13)
LINEヤフー株式会社は、開発業務に関わる全エンジニア約7,000名を対象に、GitHub社が提供するAIペアプログラマー「GitHub Copilot for Business」の導入を2023年10月13日から開始した。テスト導入の結果、1人あたりの1日のコーディング時間が約1～2時間削減された。このツールは、プログラミング言語の記述作業においてAIがコード記述の提案を行い、エラーや最適化のポイントもAIの視点で捉えることができる。
事例17 レオン・ストラテジー株式会社のChat GPTを活用した「補
助金サポータ for GPTs」の開発 (2023/10/20)
レオン・ストラテジー株式会社が開発した「補助金サポーター for GPTs」は、OpenAIのGPTsを活用し、補助金のリサーチ、具体的な活用事例の提案、事業計画書の作成支援を行う独自Chat GPTサービスである。このサービスにより、中小企業は補助金申請の手間を大幅に削減し、効率的に資金調達を行うことが可能になる。
事例18 中外製薬、LLMの導入 (2023/12/04)
中外製薬社は2023年3月にGoogleが発表した医療分野に特化したLLM 「Med-PalM2」を導入することを決定した。通常、新薬の開発には10〜15年かかり、膨大な費用がかかるが、Med-PaLM 2の利用は臨床試験の効率化に寄与することが期待されている。具体的には、臨床試験計画の作成を効率的に行うためにMed-PaLM 2を使用し、大幅な時間短縮が見込まれる。
事例19 ZOZO、Vertex AIとPaLM 2を活用したファッションコーディネート説明文の効率化 (2023/12/04)
ZOZOは、ファッション通販サイト「ZOZOTOWN」とファッションコーディネートアプリ「WEAR」の運営を行っている。同社は、コーディネートの説明文制作の効率化のためにGoogle CloudのVertex AIとPaLM 2を採用し、説明文の制作時間を従来の3分の1に短縮した。ZOZOの風間昭男氏は、テキスト中心の現状から、Imagenを活用したマルチモーダルな領域での利用拡大を検討していると述べている。
事例20 「落とし物クラウドfind」、ChatGPT連携で落とし物情報の自動生成を実現 (2024/01/09)
株式会社findは、落とし物管理サービス「落とし物クラウドfind」にChatGPTとの連携を開始した。この連携により、拾得物の登録時間が平均5分から約20秒に大幅に削減される。AIが自動で分析し入力するため、登録情報のクオリティーが均一化され、拾得物返却率の向上が期待される。また、拾得物登録情報の自動生成により、業務効率化が実現される。
