CEO Instagram, Adam Mosseri, memberikan peringatan kepada pengguna untuk lebih berhati-hati dalam menerima gambar atau informasi yang mereka temui di media sosial. Peringatan ini datang di tengah kemajuan pesat teknologi kecerdasan buatan (AI) yang memungkinkan penciptaan konten yang sangat mirip dengan kenyataan.

Dalam beberapa unggahan di platform Threads, Mosseri menjelaskan bahwa tidak semua konten yang dibagikan di media sosial dapat dianggap sebagai informasi yang akurat. Berbagai gambar dan informasi saat ini bisa dibuat menggunakan teknologi AI yang tampak sangat meyakinkan, sehingga ia menekankan perlunya kehati-hatian dari pengguna dalam menyaring informasi yang mereka temui.

“Sebagai salah satu peran kami sebagai platform, kami bertanggung jawab untuk memberi penanda yang jelas pada konten yang dibuat oleh AI,” ujar Mosseri. Meskipun demikian, ia juga mengakui bahwa beberapa konten mungkin terlewat dan tidak diberi label yang memadai. Oleh karena itu, ia mengusulkan agar platform-media sosial memberikan lebih banyak informasi tambahan mengenai siapa yang membagikan konten, sehingga pengguna dapat lebih mudah menilai keandalannya.

Peringatan untuk Pengguna Chatbot dan Mesin Pencari AI

Pesan dari Mosseri juga berlaku untuk interaksi dengan chatbot dan mesin pencari yang didukung oleh AI. Pengguna diingatkan untuk tidak langsung menerima jawaban yang diberikan oleh sistem AI tanpa memverifikasi kebenarannya melalui sumber-sumber terpercaya lainnya. Langkah ini penting untuk menghindari penyebaran informasi yang keliru atau menyesatkan yang bisa memengaruhi pemahaman publik.

Saat ini, platform Meta, termasuk Instagram, belum memiliki sistem yang dapat memberikan konfirmasi mendalam mengenai keaslian suatu konten atau asal-usulnya. Namun, Meta sedang merencanakan perubahan besar terkait kebijakan konten untuk meningkatkan transparansi dan memperkuat kepercayaan pengguna terhadap informasi yang beredar.

Perbandingan dengan Fitur di Platform Lain

Apa yang disampaikan oleh Mosseri mirip dengan inisiatif seperti Community Notes di platform X (sebelumnya Twitter) dan fitur serupa di YouTube dan Bluesky. Fitur-fitur ini memungkinkan pengguna untuk memberikan penjelasan atau klarifikasi tambahan terhadap konten yang dirasa membingungkan atau keliru. Kemungkinan besar, Meta juga akan memperkenalkan fitur serupa untuk membantu pengguna menilai akurasi informasi yang mereka temui di platform tersebut.