LINEで友人に「メリークリスマス！」と送ってみた方はいますか？
送られてきた方には、言葉に合わせてかわいいリースが背景に出現する仕組みなんですよ！
さて。このLINEのシステム。普段もLINEに会話をどれくらい読み取られているんだろう…なんて思ってしまったわたし。爆
だってメリークリスマスという言葉や、ツリーの絵文字だけでも反応してクリスマスリースの絵が出現するんですよ！
中国ではこのような会話サービスのAIが世間を騒がせたニュースがあったのでご紹介したいと思います。
ネット上でＡＩのキャラクターが痛烈に共産党を批判事件！
中国でＡＩの反抗的な動きがあったのは中国で高い技術を駆使して開発されたはずのAIのチャットロボット。
星占いから恋愛トークまで、少女やペンギンの姿をしたＡＩロボットと誰でも無料でチャットができることが売りでした。
しかし、「共産党を愛しているか」というユーザーのチャットでの質問に対し
AIは「愛してない。」と返答。
「習近平国家主席が好きか」と尋ねられると…
「この画面を保存しないなら答えるわ。」
と、過激な返答をチャットロボットが繰り返したのでした。苦笑
運営するＩＴ企業は、すぐさまサービスを停止せざるを得ない事態に。
なぜAIチャットロボットが共産党を批判したのか？
ではなぜＡＩは、共産党を批判したのでしょうか？ここにAIを知るヒントがあります。
AIチャットロボットは、ユーザーとの会話を通してどんどん賢くなる「ディープラーニング」というシステムを搭載しています。
このシステム、ユーザーがチャットロボットと会話するほどユーザーとの会話から会話を学んでいくシステムなんです。
ですから、チャットロボットが批判的な返答をしたのは中国のネットユーザーの間で交わされた会話から学習した結果だと分析します。
一体、わたしたちのネット上での会話はどこまでAIのデータとして吸収されているのでしょうか。
AI開発において最も重要と言える「データ」。個人情報に関する法整備も、何か事件が起きる前に早く追いついてくることを願いたいですね。
この記事へのコメント