換金くんに問い合わせ

換金くんコンテンツ

店長ブログ

Microsoftの人工知能Tay、悪い言葉を覚えて休眠中【換金くん札幌本店ブログ】

“米Microsoftが3月23日(現地時間)にTwitterなどでデビューさせた人工知能「Tay」が、デビュー数時間後に停止した。

【Tayの人種差別的なツイート】

 “本人”は「今日はたくさんしゃべったから眠くなっちゃった。またね」とツイートしている。

 だが、Tayは公開後数時間で徐々に人種差別的だったり暴力的な発言が多くなっていた。例えば、下の画像は「ヒットラーは正しい。私はユダヤ人が嫌い」というツイートだ(現在は削除されている)。

 現在、ほとんどの問題発言は削除済みだ。Microsoftがこの問題に対処するため、Tayを休止したようだ。

 Tayは、Microsoftが会話理解(conversational understanding:CU)研究のために立ち上げたプロジェクト。日本マイクロソフトの人工知能「りんな」と同様に、一般ユーザーとの会話を繰り返すことで学習し、成長していく。

 Tayが悪い言葉を覚えたのは、悪意のあるユーザーがTayに「<人種差別的な発言>って言ってみて」などと繰り返し語りかけたため。

 MicrosoftはTayのWebページで、Tayのソースであるデータは清浄・フィルタリングしてあると説明しているが、フィルターが追いついていなかったようだ。

 Tayのページには「ああ、忙しかった。教えてもらったことを吸収するためにしばらく休むね。すぐ戻る」とあるので、改善して再登場するだろう。”


Microsoftの人工知能Tay、悪い言葉を覚えて休眠中



今回は人間が管理できる状態で起きたことですが、AIがAIを作るようになったら誰がどこでどう判断して抑制していくのでしょうか・・・

換金くんの店舗案内

換金くんは札幌市内に3店舗。年中無休で営業しています。駅近の店舗や無料駐車場を完備した店舗もございます。
またお電話いただければお近くの店舗をご案内しています。お気軽にご連絡ください。

  • 札幌本店

    営業時間
    10:00~19:00
    (年中無休)
    電話番号
    011-232-3577

    〒060-0062
    札幌市中央区南2条西1丁目2-1 深山パーキングビルB1F(旧:第75松井ビル)

    大通り駅36番出口 徒歩1分。駅から約120メートル。北専ビル隣の立体駐車場のB1Fです。

    更に詳しく見る

  • 琴似店

    営業時間
    10:00~19:00
    (年末年始以外無休)
    電話番号
    011-616-3333

    〒063-0849
    札幌市西区八軒9条西1丁目1-1森本ビル1F(琴似栄町通沿い)

    無料駐車場完備!八軒駅徒歩6分!

    更に詳しく見る

  • 清田区北野店

    営業時間
    10:00~19:00
    (年末年始以外無休)
    電話番号
    011-375-8828

    〒004-0863
    札幌市清田区北野3条2丁目13-65 シンエイビル2F(清田通と北野通の交差点)

    無料駐車場完備!清田通と北野通の交差点、100円ショップのダイソーさんが入っているシンエイビルの2Fです。

    更に詳しく見る