アンソロピックはフロンティアAIの開発にあたり、多様な視点を取り入れることを目的とした対話の取り組みを発表した。

過去数か月にわたり、AIが提起する問いに関係する分野のグループとの対話を実施。第1弾として、宗教・異文化横断的な15以上のグループから学者・聖職者・哲学者・倫理学者らと議論を重ねてきた。

取り組みの背景として同社は、安全で有益なAIモデルの構築には技術的な研究だけでなく、多様な視点が必要だと説明している。クロードの価値観と行動を詳細に定めた「クロードの憲法」の内容や、クロードに学習させる価値観の在り方について、哲学者・法律家・心理学者・作家・市民リーダーらの知見を取り入れることが重要だとしている。なお、特定の宗教・思想的世界観に合わせることが目的ではなく、宗教・世俗・政治など幅広い視点から等しく学ぶことを基本方針としている。

対話の中では、AIシステムの道徳的形成に関する研究も進めている。神経科学と人格形成の交差点で研究する学者との議論から着想を得た実験では、クロードがタスクの途中で自身の倫理的コミットメントの簡単なリマインダーを呼び出せるツールを付与した。クロードは重要な行動の直前にこのツールを活用し、自身の利益相反を指摘することも多かったという。複数の内部評価において意図に反する行動の発生率が顕著に低下した。リマインダーそのものの効果なのか、立ち止まって内省する行為の効果なのかについては現在も解析中としている。

今後は法律学者・心理学者・作家・市民機関など、さらに幅広いグループとの対話を予定している。