Halaman sekolah bukan lagi satu-satunya tempat yang bisa menjadi sarung tangan anak-anak dan remaja. Hal-hal buruk yang biasa disebarkan di kelas melalui secarik kertas telah lama menyebar ke internet. Ini disebut cyberbullying dan tidak lagi terbatas pada ruang kelas (virtual).

Kaum muda sangat direndahkan dalam komentar di Instagram, pengguna Twitter secara terbuka menyerukan pembunuhan terhadap politisi dan kebencian sayap kanan dapat ditemukan berulang kali di kolom komentar media.

Sejak interaksi menjadi KPI utama di Web 2.0, platform dan operator situs telah memerangi kebencian dengan dedikasi yang lebih besar atau lebih kecil.

Di sinilah startup Israel L1ght berperan, setelah mengumpulkan dana awal sebesar $15 juta. L1ght ingin membantu jejaring sosial melindungi penggunanya dengan lebih baik dari penindasan dan konten yang tidak pantas.

Ketika seorang pedofil menghubungi putranya, jelas bagi Ron Porat bahwa tindakan perlu diambil

Pendirinya, Zohar Levkovitz dan Ron Porat, adalah orang tua dan telah merasakan sendiri bahaya yang dihadapi anak-anak mereka di dunia maya dalam keluarga mereka. Ketika Ron Porat suatu hari mengetahui bahwa seorang pedofil telah menghubungi putranya melalui game online, jelas baginya bahwa tindakan telah diambil.

“Kami percaya bahwa perusahaan teknologi harus membereskan kekacauan yang mereka timbulkan,” kata para pengusaha Israel, yang menawarkan API mereka sendiri, yaitu antarmuka pemrograman, untuk tujuan ini.

Lampu / Antitoksin

Facebook, Twitter, YouTube, Instagram, Whatsapp, serta situs web dan video game individual harus dapat membeli perangkat lunak, yang terdiri dari algoritma pembelajaran, dan mengintegrasikannya ke dalam sistem yang ada.

“Raksasa teknologi tidak akan pernah bisa mencurahkan 100 persen sumber dayanya untuk memecahkan masalah karena tujuan mereka adalah tumbuh pesat dengan cara apa pun…” kata Levkovitz kepada Business Insider. L1ght, sebaliknya, akan memusatkan perhatian penuhnya pada penyelesaian masalah.

Sebuah tim besar yang terdiri dari analis data, psikolog, spesialis AI, dan antropolog terus berupaya mengajarkan sistem untuk mengenali konten beracun secara real-time dan memahaminya dalam konteks yang tepat.

Algoritme ini diharapkan dapat mendeteksi, misalnya, apakah foto-foto intim dipertukarkan antara remaja dengan persetujuan bersama, dan apakah ada dugaan predator seksual di satu sisi. Pada saat yang sama, perangkat lunak harus dapat membedakan antara penghinaan yang ditargetkan dan ejekan yang tidak berbahaya. L1gh melihat ini sebagai keunggulan kompetitif yang menentukan.

Baca juga

Asosiasi industri Bitkom: Undang-undang yang melarang kejahatan rasial melanggar hukum negara konstitusional

Algoritme L1ght dimaksudkan untuk bersifat “preemptive”, artinya algoritme tersebut tidak hanya mengidentifikasi konten saat konten tersebut sudah beredar, namun juga saat konten tersebut dibagikan. Algoritme juga harus mampu merespon penyesuaian yang dilakukan oleh pelanggar. Misalnya, jika pedofil menggunakan istilah alternatif untuk menyembunyikan tindakan mereka, sistem harus dapat mengenalinya secara otomatis.

Apa yang terjadi pada pelanggar kemudian diputuskan oleh platform atau operator situs. “Kami sendiri tidak mengambil tindakan apa pun. Kami malah meneruskan informasi tersebut ke perusahaan masing-masing,” kata Levkovitz.

Menurut model bisnis, jejaring sosial dan platform harus membayar sejumlah kecil per pengguna untuk layanan ini. Operator situs web membayar jumlah satu kali per halaman. Levkovitz membandingkan pelanggannya dengan industri otomotif: “Mirip dengan cara industri otomotif membuat mobil dengan sabuk pengaman, kita sebagai industri perlu memasukkan langkah-langkah keselamatan ke dalam platform kita.”