INDEX

• AI業界における透明性と説明責任を求める声
• 高度なAIがもたらす広範囲にわたるリスク
• 情報共有と従業員保護の必要性
• AI企業への行動の呼びかけ

AI業界における透明性と説明責任を求める声

大手 AI 企業の現役および元従業員が、高度な人工知能がもたらす深刻なリスクについて懸念を表明するという前例のない動きがありました。

これらの人々は、AI が人類にもたらす可能性の大きさを認めつつも、AI 企業に対して、透明性、説明責任、効果的な監督を優先し、これらの強力なテクノロジーに関連するリスクを軽減するよう強く求めています。

高度なAIがもたらす広範囲にわたるリスク

従業員たちが指摘するリスクは多岐にわたります。

1. 既存の格差の拡大
2. 操作と誤報
3. 自律型AIシステムに対するコントロールの喪失、そして場合によっては破滅的な結果につながる可能性

これらの懸念は、AI企業自身、世界中の政府、さまざまな分野のAI専門家からも指摘されています。

しかし、従業員たちは、AI企業の金銭的な誘因が、適切な安全対策や監督措置の実施を妨げる可能性があるとしています。

情報共有と従業員保護の必要性

従業員が提起した主な問題のひとつは、AIシステムの能力、限界、リスクレベルに関する透明性の欠如です。

彼らは、AI企業はリスクの評価と軽減に不可欠な非公開情報を大量に保有しているにもかかわらず、政府や市民社会とそのような情報を共有する強い義務を現在負っていないと主張しています。

従業員たちは、AI企業に対して社会的な説明責任を果たさせる上で、現従業員と元従業員の存在が重要であると強調しています。

しかし、広範な守秘義務契約や報復の恐れが、従業員が懸念を表明することを妨げる要因となっていると指摘しています。また、高度なAIに関連する多くのリスクがまだ規制されていないため、通常の内部通報者保護では不十分であると主張しています。

AI企業への行動の呼びかけ

これらの懸念に対処するため、従業員たちは先進的なAI企業に以下の原則を遵守するよう呼びかけています。

1. 非中傷契約の禁止: リスクに関する懸念について、会社への批判や「中傷」を禁止する契約を締結したり、強制したりせず、またそのような懸念を提起した従業員に対して報復を行わないこと。
2. 匿名報告の促進: リスクに関する懸念を会社の取締役会、規制当局、および関連分野の専門知識を持つ適切な独立組織に提起するための、匿名性が確実に守られたプロセスを、現職および元従業員が利用できるようにすること。
3. オープン性と透明性の文化: オープンな批判の文化を支援し、企業の技術に関するリスク関連の問題を従業員がさまざまな利害関係者に提起することを認める一方で、企業秘密や知的財産権を保護します。
4. 内部告発者保護: 他のプロセスが失敗した後、リスクに関する機密情報を公開的に共有した従業員に対して報復を行わないこと。ただし、そのような開示は、機密情報を不必要に公開しないよう留意すべきであることを認識する。

これらの従業員が提起した懸念は妥当であり、真剣に考慮されるべきです。AI技術の急速な進歩により、リスク管理とガバナンスに積極的なアプローチが必要となっています。

AI企業は、高度なAIシステムの開発と展開が倫理原則と強固な安全対策に導かれるように、従業員、規制当局、そして一般市民とオープンな対話をすることが重要です。

(Via A Right to Warn about Advanced Artificial Intelligence.)

INDEX

• ホワイトハウスでのAI安全性に関する会議
• AI企業のコミットメント
• AIの安全性への取り組みの重要性
• まとめ

ホワイトハウスでのAI安全性に関する会議

AIのトップ企業であるMeta、Google、OpenAIは、ホワイトハウスでのサミットを経て、自社のシステムとユーザーの安全性を強化するための新たな取り組みを発表しました

これらの取り組みには、AIによって生成されたコンテンツに透かしを付けるなどの新たな要素が含まれています、これらの取り組みは、バイデン大統領が会議後に発表したもので、「これらの取り組みは現実であり、具体的なものである」と述べています

さらに、バイデン大統領は、「人工知能は世界中の人々の生活を変えることになる。ここにいる人々は、その革新を責任を持って、安全に設計することが重要になる」と付け加えました

これらの企業は、研究と安全性への投資、セキュリティのストレステスト、システムの脆弱性の第三者監査への協力など、自主的で部分的には曖昧な取り組みを行うことを約束しました

これらの取り組みについて、MetaのグローバルアフェアーズのNick Clegg社長は、「AIは社会全体の利益になるべきです。それを実現するためには、これらの強力な新技術を責任を持って構築し、展開する必要があります」と述べています

AI企業のコミットメント

この会議で、各企業は以下のようなコミットメントを発表しました。

• AIシステムのリリース前に、内部および外部のセキュリティテストを行う
• サイバーセキュリティと内部脅威対策への投資を強化する
• AIシステムの脆弱性を第三者が発見し報告できるようにする
• AIによって生成されたコンテンツを識別できる手段を開発する（例：透かし）
• AIシステムの能力、制限、適切な使用法について公開報告する
• 社会的リスク（偏見、差別、プライバシー問題など）についての研究を優先する

これらのコミットメントは、AIの安全性と透明性を向上させるための重要な一歩となります

AIの安全性への取り組みの重要性

AIは私たちの生活のあらゆる面で活用されています、しかし、その一方で、AIの進化は新たな課題をもたらしています

AIの誤動作や悪用は、個人のプライバシーや社会全体に深刻な影響を及ぼす可能性があります、そのため、AIの安全性と透明性を確保することは、AIが持つリスクを管理し、その利益を最大化するために不可欠です

AI企業が自主的に安全性と透明性に関するコミットメントを発表することで、AIの安全性に対する認識が高まり、業界全体のスタンダードが向上します、これは、AIの持続可能な発展を支える重要なステップとなります

まとめ

AIの安全性と透明性は、今後も業界全体が取り組むべき重要な課題です

Meta、Google、OpenAIなどのAI企業が自主的なコミットメントを発表することで、AIの安全性に対する認識が高まり、業界全体のスタンダードが向上します

これらの取り組みは、AIの持続可能な発展を支える重要なステップとなります

(Via The Verge.)