AI業界における透明性と説明責任を求める声

大手 AI 企業の現役および元従業員が、高度な人工知能がもたらす深刻なリスクについて懸念を表明するという前例のない動きがありました。

これらの人々は、AI が人類にもたらす可能性の大きさを認めつつも、AI 企業に対して、透明性、説明責任、効果的な監督を優先し、これらの強力なテクノロジーに関連するリスクを軽減するよう強く求めています。

高度なAIがもたらす広範囲にわたるリスク

従業員たちが指摘するリスクは多岐にわたります。

1. 既存の格差の拡大
2. 操作と誤報
3. 自律型AIシステムに対するコントロールの喪失、そして場合によっては破滅的な結果につながる可能性

これらの懸念は、AI企業自身、世界中の政府、さまざまな分野のAI専門家からも指摘されています。

しかし、従業員たちは、AI企業の金銭的な誘因が、適切な安全対策や監督措置の実施を妨げる可能性があるとしています。

情報共有と従業員保護の必要性

従業員が提起した主な問題のひとつは、AIシステムの能力、限界、リスクレベルに関する透明性の欠如です。

彼らは、AI企業はリスクの評価と軽減に不可欠な非公開情報を大量に保有しているにもかかわらず、政府や市民社会とそのような情報を共有する強い義務を現在負っていないと主張しています。

従業員たちは、AI企業に対して社会的な説明責任を果たさせる上で、現従業員と元従業員の存在が重要であると強調しています。

しかし、広範な守秘義務契約や報復の恐れが、従業員が懸念を表明することを妨げる要因となっていると指摘しています。また、高度なAIに関連する多くのリスクがまだ規制されていないため、通常の内部通報者保護では不十分であると主張しています。

AI企業への行動の呼びかけ

これらの懸念に対処するため、従業員たちは先進的なAI企業に以下の原則を遵守するよう呼びかけています。

1. 非中傷契約の禁止: リスクに関する懸念について、会社への批判や「中傷」を禁止する契約を締結したり、強制したりせず、またそのような懸念を提起した従業員に対して報復を行わないこと。
2. 匿名報告の促進: リスクに関する懸念を会社の取締役会、規制当局、および関連分野の専門知識を持つ適切な独立組織に提起するための、匿名性が確実に守られたプロセスを、現職および元従業員が利用できるようにすること。
3. オープン性と透明性の文化: オープンな批判の文化を支援し、企業の技術に関するリスク関連の問題を従業員がさまざまな利害関係者に提起することを認める一方で、企業秘密や知的財産権を保護します。
4. 内部告発者保護: 他のプロセスが失敗した後、リスクに関する機密情報を公開的に共有した従業員に対して報復を行わないこと。ただし、そのような開示は、機密情報を不必要に公開しないよう留意すべきであることを認識する。

これらの従業員が提起した懸念は妥当であり、真剣に考慮されるべきです。AI技術の急速な進歩により、リスク管理とガバナンスに積極的なアプローチが必要となっています。

AI企業は、高度なAIシステムの開発と展開が倫理原則と強固な安全対策に導かれるように、従業員、規制当局、そして一般市民とオープンな対話をすることが重要です。

(Via A Right to Warn about Advanced Artificial Intelligence.)