@TayandYou/Tangkapan Layar TwitterKetika kecerdasan buatan berubah menjadi kebodohan rasis.

Pada awalnya, semuanya dimulai dengan tidak berbahaya. Namun, dalam beberapa jam, chatbot baru Microsoft “Tay” menanggapi pertanyaan pengguna dengan cara yang semakin rasis.

Menurut Microsoft, Tay sebaiknya berkomunikasi dengan kaum milenial dengan bahasa khas anak muda milenial.

Tujuannya adalahyang dipelajari Tay dengan berbicara dengan orang lain. Semakin banyak dia berbicara, semakin “pintar” dia berbicara dengan penggemar aslinya.

Namun hal itu menjadi bumerang yang buruk.

Karena: Terutama para rasis, troll, dan penindas online yang terus bersamanya. Hal ini membuat Tay percaya, antara lain, bahwa ras kulit putih lebih unggul – dan bahkan menyerukan genosida.

Microsoft kemudian mencabutnya. Ada peningkatan dan tweet terburuk akan dihapus.

Tentu saja, Tay sendiri sama sekali bukan seorang rasis. Tay hanyalah perangkat lunak yang mempelajari cara orang berbicara. Dan jika mereka melontarkan komentar rasis dan terus mengulanginya, begitu pula perangkat lunaknya.

Apa pun masalahnya, kejadian ini jelas sangat memalukan bagi Microsoft.

Tay mengira Hitler lebih baik dari Obama….

Dalam salah satu tweetnya, yang telah dihapus, Tay secara harafiah mengatakan: “Bush yang melakukan 9/11 dan Hitler akan melakukan pekerjaan yang lebih baik daripada monyet yang kita miliki sekarang. “Donald Trump adalah satu-satunya harapan yang kita miliki.”

… menghina pengguna sebagai pelacur…

…menyangkal Holocaust…

Twitter

…meminta genosida…

Twitter

Twitter

…benci orang kulit hitam…

Twitter

Ada banyak kritik di internet. Pengguna berpendapat bahwa Microsoft dapat mengharapkan hal ini.

Microsoft mengumumkan melalui email bahwa mereka melakukan “penyesuaian” pada chatbot. “Chatbot AI Tay adalah proyek pembelajaran mesin. Saat dipelajari, beberapa respons tidak sesuai dan mencerminkan sifat interaksinya dengan pengguna. Kami sekarang melakukan penyesuaian pada Tay.”