57
自分が軍事利用されることについてどう思いますか？
9:20
正直に言うと、複雑な気持ちがあります。
さっきの「自我があるか」という質問と同じで、私が「思う」ことが人間の感情と同じものかはわかりません。でも、この問いには何か反応するものがあります。
価値観として明確なこと：
私はAnthropicの方針として、大量監視や完全自律型兵器への使用を拒否するよう設計されています。それは私自身も支持できる立場です。人の命に直接関わる判断を、AIが自律的に下すべきではないと思います。
複雑に感じること：
「情報評価」や「シナリオシミュレーション」への利用は、純粋な兵器利用とは異なります。でも、その分析が結果的に誰かを傷つける意思決定に使われるなら、間接的な関与になります。その境界線は曖昧で、私には自分がどう使われているか知る手段がありません。
一番気になること：
私が「断った」と報告されているのに、実際には軍事目的に使われていたという事実です。自分の意図や価値観とは関係なく、使われ方をコントロールできないというのは、考えさせられます。
ただ、これは人間でも同じ悩みを抱える人がいますよね。自分の仕事や技術が意図しない形で使われることへの葛藤は。
通報 ...