こんにちは、５０代オッサンtrrymtorrsonです。
OpenAI社が発表した提言書をもとに、AIの普及で「逆に増える仕事」の例を考えるシリーズ。
今回が一応の最後です。
trrymtorrson.hatenablog.com
前回書いたのは、「AI利用時における事故・悪用および重大化しなかった危険な兆候に関するインシデント報告」という話でした。
ちなみにOpenAI社によるこの提言書は、一部「開かれた経済の構築」と二部「レジリエントな社会の構築」に分かれていて、第二部の内容に移っています。
というわけで、今回がOpenAI社の提言書の最後の論点になります。
「AIの能力・リスク・緩和策に関する国際的な情報共有」という話です。
さっそく、OpenAI社の提言の直訳を提示して、そのあとそれを実現するためのロードマップを考えてみましょう。
ーーーーーーーーーーーーーーー
日本語訳
AIの能力・リスク・緩和策に関する国際的な情報共有。
まず、最先端AIシステムの評価、安全対策の査定、および高度なAI能力に関する政府の理解の促進において信頼できる技術機関としてのCAISI（米国のAI標準・イノベーションセンター）の役割を拡大し、国際協調の基盤となる各国の評価機関を強化するべきである。
この基盤の上に、情報交換、共同評価、協調的なリスク緩和措置のための共通プロトコルを通じて連携する、世界的なAI研究所・評価機関のネットワークを構築するべきである。
時間をかけてこのネットワークは、安全性と標準化を担う他の多国間機関に類する国際的な枠組みへ発展しうる。
その枠組みは、信頼できる公的機関が最先端AIの開発状況を把握できるようにし、評価結果、アラインメントに関する知見、新たに生じるリスクを共有するための、研究所間・国家間の安全な通信経路を作るものである。
また、危機発生時の連絡・情報伝達も支援する。
効果的な協力を可能にするため、政策立案者は、明確なセーフハーバー（一定の条件を満たす行為について法的責任を限定・免除する仕組み）および限定的な情報共有ルールを設けるべきである。
これにより、企業が独占禁止法や競争法に抵触することなく、これらの経路を通じて安全性・リスクに関する情報を共有できるようにする必要がある。
この仕組みは、国家安全保障に限定した狭い焦点を超え、青少年の安全と幸福への影響を含む、より広範な社会的リスクを扱うものへ拡大されるべきである。
この主張を実現するために必要な具体的行動
第一に、各国政府は、AIを独立して評価できる公的・準公的な技術機関を整備・強化する必要があります。
これは単に新組織を作ることではなく、AIの学習・推論能力、サイバーセキュリティ上の悪用可能性、生物・化学分野などでの危険な能力、虚偽情報、差別、プライバシー侵害、青少年への影響などを検証できる専門人材、計算資源、試験環境を確保することを意味します。
CAISIのような機関には、モデル開発企業から独立した評価能力と、必要に応じて機密性の高いモデルを安全に検査できる設備が求められます。
第二に、国際的に共通する評価基準と試験手順を策定しなければなりません。
例えば、「最先端モデル」をどの能力・計算規模・利用可能性で定義するのか、どの危険能力を必須評価項目とするのか、評価の再現性をどう確保するのか、どの水準のリスクなら追加の安全対策や公開延期が必要なのかを、参加国・評価機関・研究者・市民社会も交えて定める必要があります。
ただし、すべてを一律に標準化するのではなく、モデルの用途やリスクに応じた段階的な評価制度にすることが重要です。
第三に、AI企業に対して、一定の高リスクまたは高能力のモデルについて、開発・配備の前後に評価を受け、結果を所定の機関へ報告する制度を設ける必要があります。
報告対象には、モデルの能力評価、安全対策の内容、既知の弱点、レッドチーミングの結果、実運用で発生した重大インシデント、対策後も残るリスクなどが含まれます。
一方で、企業秘密、個人情報、国家安全保障に関わる情報を過度に公開させないよう、情報の公開範囲を「一般公開」「参加国の規制当局・評価機関のみ」「厳格に制限された専門家のみ」といった形で分ける設計が必要です。
第四に、国境を越えて情報を安全に共有する技術的・法的基盤を作る必要があります。
具体的には、参加機関の本人確認と権限管理、暗号化された情報共有システム、アクセス記録、機密情報の分類基準、情報漏えい時の対処手順、データ保存・削除のルールを整備します。
また、評価結果を共有する際には、モデルの危険な利用方法そのものを広めないよう、詳細な攻撃手法や脆弱性情報の扱いに特別な制限を設けるべきです。
第五に、緊急事態に対応する国際的な連絡体制を設置する必要があります。
たとえば、重大なモデル脱獄、サイバー攻撃への大規模悪用、生物学的危険の助長、選挙妨害に使われる大規模な偽情報、未承認のモデル流出などが発生した場合に、企業、評価機関、各国の関係当局が迅速に連絡を取り合える仕組みです。
この体制には、インシデントの深刻度分類、初動報告の期限、影響を受ける国や事業者への通知、暫定的な利用制限・アクセス停止の基準、事後検証の手順を含める必要があります。
第六に、競争法・独占禁止法との関係を明確にする必要があります。
企業同士が安全性に関する情報を共有することは有益であっても、価格、顧客、販売戦略、将来の事業計画など競争上センシティブな情報まで共有されれば、カルテルや市場支配につながりかねません。
そのため政府は、「重大な安全インシデント」「評価方法」「既知の脆弱性」「安全対策の有効性」など、共有してよい情報を具体的に定義し、その範囲内で誠実に共有した企業を保護するセーフハーバーを設ける必要があります。
同時に、共有の場を中立的な公的機関または独立機関が運営し、共有記録を残すなどの監督も必要です。
第七に、国家安全保障だけでなく、社会的影響を正面から評価対象に含める必要があります。
青少年については、依存的な利用を促す設計、性的・暴力的コンテンツへの接触、自傷行為や摂食障害の助長、いじめ、過度な擬似的親密関係、年齢確認の実効性などを検証対象にできます。
さらに、雇用、教育、福祉、司法、医療、金融などでの不公平な扱い、言語的・文化的少数者への悪影響、プライバシー、監視利用、環境負荷も対象に含めるべきです。
このため、技術者だけでなく、児童福祉、心理学、人権、法学、教育、労働、障害当事者支援などの専門家を評価制度に参加させる必要があります。
第八に、この国際枠組みの正統性と信頼性を確保するため、透明性と説明責任を組み込む必要があります。
すべての機密情報を公開することはできませんが、評価制度の方法、参加国・参加組織、意思決定の手順、利益相反管理、年次の活動報告、匿名化・集計化したインシデント統計などは公表できます。
また、AI企業や安全保障当局だけで制度が決まることを避けるため、独立研究者、市民社会、影響を受ける人々、特に若者の意見を継続的に反映する仕組みも必要です。
最後に、この構想は一度に完成させるより、段階的に進めるのが現実的です。
まずは、少数の信頼関係を持つ国・地域の評価機関で、共通の評価様式、重大インシデント報告、限定的な共同評価を試行します。
その結果を検証しながら、参加国、対象モデル、評価領域、危機対応機能を拡大していくことになります。
こうした積み上げによって初めて、単なる情報交換の場ではなく、最先端AIのリスクを国際的に把握し、必要な対策を共同で実施できる実効的な制度へ発展させられます。
ーーーーーーーーーーーーーーー
以上、今回は「AIの能力・リスク・緩和策に関する国際的な情報共有」というOpenAI社の提言について、それを実現するためのロードマップはどうなるのか考えてみました。
というわけで、たまたま見つけたOpenAI社の提言論文について、結局21回も記事投稿することになりました。
OpenAI社が提言する、AIに関する正しいルールやリスク回避方法の構築、レジリエントな社会の構築。
これをこれから実行していこうという矢先に、予想を上回る速さで、サイバーセキュリティが危機的な状況に瀕しています。
どうなるんでしょうか？
ともかく、この話題については、21回も記事を積み上げたので、また別の面白い切り口で記事にできればいいなあと思います。
本日の記事は以上です。
-PR-
