Foto oleh Chip Somodevilla/Getty Images
Pemadaman Facebook pada hari Rabu, di mana pengguna Facebook, Instagram dan Whatsapp tidak dapat lagi melihat foto, memberikan wawasan tentang cara kecerdasan buatan (AI) perusahaan menganalisis foto Anda.
Bug tersebut, yang pertama kali muncul pada hari Rabu dan mempengaruhi lebih dari 1,5 miliar pengguna aktif, menghalangi gambar untuk ditampilkan di platform media sosial. Sebagai gantinya, pengguna melihat deskripsi gambar seperti: “Gambar mungkin berisi: tabel, tanaman, bunga dan luar ruangan” atau “Gambar mungkin berisi: satu orang atau lebih, orang duduk, tabel dan dalam ruangan.”
Deskripsi tersebut menunjukkan bagaimana kecerdasan buatan Facebook menafsirkan gambar. Banyak orang membagikan tangkapan layar di Twitter tentang label yang muncul, bukan fotonya. “Sejujurnya, ‘seseorang, janggut’ adalah gambaran yang cukup akurat tentang diriku,” tulisnya Zack Whittakereditor di portal teknologi “TechCrunch”.
//twitter.com/mims/statuses/1146456836998144000?ref_src=twsrc%5Etfw
Oh ya! Saya lupa Facebook menggunakan pembelajaran mesin untuk menandai foto kita dengan apa yang terlihat di gambar.
Sejujurnya, “satu orang, berjanggut” hampir merupakan gambaran yang tepat tentang saya. pic.twitter.com/fCpydUxtpz
Apa yang ada di baliknya?
Facebook secara otomatis memindai semua foto di platformnya menggunakan perangkat lunak pengenalan wajah dan gambar yang didukung AI untuk menentukan siapa atau apa yang digambarkan.
Analisanya harus aksesibilitas platform: Fitur ini menjelaskan foto untuk penyandang tunanetra atau tunanetra yang mengakses halaman melalui pembaca layar. Kita juga dapat melihat penafsiran seperti ini:
//twitter.com/mims/statuses/1146485296529383424?ref_src=twsrc%5Etfw
Sah bermanfaat setelah mendengar seseorang memposting “Lihat bayi baruku! ????” tahu “Gambar mungkin berisi: anjing”
Pada beberapa gambar, AI sepertinya salah menafsirkan foto tersebut, seperti yang terjadi pada salah satu foto Reporter keberuntungan Danielle Abril. Deskripsinya berbunyi: “5 orang termasuk Danielle Abril, orang tersenyum, orang berdiri, cangkul dan di dalam ruangan. Semoga ada alat berkebun di gambar.” Kami mencoba menghubungi Abril tetapi belum mendapat tanggapan. (Bagaimana bisa berarti “bagaimana” atau “jalang” dalam bahasa Inggris.)
//twitter.com/mims/statuses/1146492183203258369?ref_src=twsrc%5Etfw
Hiu @facebook,
Apakah ini sebuah kesalahan? Mengapa tag wanita yang berdiri bersama di Facebook saya bertuliskan “batuk”? #facebookdown pic.twitter.com/zYLXycM0td
Meskipun penjelasan ini tampaknya tidak terlalu serius, hal ini mengingatkan kita akan banyaknya data yang terus-menerus dikumpulkan oleh Facebook dari kita — bahkan jika kita tidak selalu menyadarinya. Berkat AI yang semakin canggih, Facebook bahkan dapat mengekstrak informasi pribadi dari foto liburan atau pesta yang tidak berbahaya.
“Tentu saja, setelah sesuatu dapat dibaca, penyimpanan, analisis, dan ekstraksi data menjadi mudah. Hanya ketika sistem gagal seperti saat ini barulah kita menyadari hal itu terjadi,” tulis James Vincent dari Techportal “Ambang”.
Teks ini diterjemahkan dari bahasa Inggris dan diedit oleh Lea Kreppmeier.