「反社会的な人格」を備えたAI「ノーマン」

Wiredで”「反社会的な人格」を備えたAI”について面白い記事を見つけた。AIによって人の仕事は奪われてしまう的な本がよく売れているそうだ。しかしAIを学べば学ぶほどこういう話には飛躍があり、いくつものイノベーションが起きない限り、簡単ではないことがわかる。

「反社会的な人格」を備えたAI「ノーマン」と名付けられたこのAIサイコパスの話も、ディープラーニングでインプットされるデータには人間のバイヤスがあり、意図的に「反社会的な人格」のデータを選ぶと結論はコントロール出来る。

（以下はwiredの記事）
マサチューセッツ工科大学（MIT）メディアラボは6月、恐らくは世界初となる「反社会的な人格」を備えたAIを公開した。「ノーマン」と名付けられたこのAIサイコパスは、機械学習でアルゴリズムを生成する際にデータがどれだけ重要な役割を果たすかを理解してもらうためにつくられたもので、オンライン掲示板「reddit」にアップロードされた死体などの残虐な画像を使って訓練された。

研究チームは一方で、より穏やかな画像で学習した普通のAIも用意した。そして、両者にロールシャッハテストに使われるインクしみを見せて何を連想するか尋ねたところ、普通のAIが「木の枝に止まる鳥」と判断した画像を、ノーマンは「感電死した男」と描写したのだ。
https://wired.jp/2018/09/03/ideas-ai-as-mirror-not-crystal-ball/