本記事の要約

• Microsoft Copilot for Microsoft 365とはWord, Excel等のMicrosoft 365の製品とGPT4を連携させたサービス
• Copilotに指示したプロンプトは、ユーザ及び組織の背景情報にあわせて修正され、その後LLM（大規模言語モデル）に送られる
• プロンプトやユーザ及び組織の背景情報、レスポンスの内容は、LLMに学習されない
• LLMの出力には、セキュリティ、コンプライアンス、プライバシー等を踏まえたチェックが行われ、Copilotのレスポンスが作成される

※本記事は、2024年5月15日現在の下記URLの情報をもとに執筆。

Microsoft Copilot for Microsoft 365の概要 | Microsoft Learn

Microsoft Copilot for Microsoft 365とは？

長いので以下、Copilotと略。One DriveかShare Point上にアップしたWord とかExcelとかからGPT4が使えますよっていうサービス。

本記事ではCopilot の「仕組み」に焦点を当てているため、「何ができるか」については記載しない。詳細については上記URL参照。

Copilotの仕組み

Copilotの出力は、上画像の５つのステップによって作成される。

• ①ユーザがプロンプトをCopilotに送信
• ②Copilot がユーザ及び組織の背景情報（Microsoft Graph）等にアクセスし、プロンプトを修正（grounding と表現）
• ③修正されたプロンプトをLLMに送信
• ④Copilot がLLMからの出力を受け取る
• ⑤LLMからの出力を、コンプライアンス等の観点からチェック

上記の①～⑤について、詳細に見ていく。

①ユーザがプロンプトをCopilotに送信

プロンプトの送信に限ったことではないが、上記画像の鍵マークが付された通信は暗号化される。

②Copilot がユーザ及び組織の背景情報等にアクセスし、プロンプトを修正

Microsoft Graphとは、OneDrive や、SharePointに上げているデータにアクセスできるAPIを提供するサービス。このAPIを用いて、ユーザや組織の情報にアクセスし、Copilotに送付したプロンプトを修正する。

ここで興味深いのは、ユーザ・組織の情報を直接LLMに学習させるわけではなく、あくまでプロンプトを修正するために、背景情報にアクセスするということ。ユーザの背景情報が活用された結果、どのようにCopilotの出力が変化するのかは検証の余地あり。また、どのようにプロンプトが修正されるのかについて、詳しい情報はなかった。

③修正されたプロンプトをLLMに送信

繰り返しになるが、プロンプトや、レスポンス、Graphにアクセスして取得したユーザ・組織の背景情報は、LLMの学習には使われない。ここで、上記画像では”～ data aren’t used to train foundation models”と記載されていることから、上記の背景情報は、基盤となるLLMのパラメータの学習には使用されないが、一時的なファインチューニングなどには利用されるのかもしれない（詳細は不明）。

⑤LLMからの出力を、コンプライアンス等の観点からチェック

Copilotは、LLMからの出力をそのままユーザに返すのではなく、コンプライアンス等の観点から修正を行う。この工程を、後処理 “post-processing” と呼んでいる。なお、この点については、上記画像のテキストでは説明が不十分であるため、引用元のページの記載をそのまま記述する（訳は著者による）。

Copilot takes the response from the LLM and post-processes it. This post-processing includes other grounding calls to Microsoft Graph, responsible AI checks, security, compliance and privacy reviews, and command generation.

訳：CopilotはLLMからの応答を受け取り、それを後処理する。この後処理には、Microsoft Graphへの他のグラウンディングの呼び出し、「責任あるAI」チェック、セキュリティ、コンプライアンス、プライバシーレビュー、およびコマンド生成が含まれる。

Microsoft Copilot for Microsoft 365 overview | Microsoft Learn

なお、Microsoft の「責任あるAI」”responsible AI” に関する取り組みについては、こちらを参照。