Pada 30 September 2024, Google mengumumkan pengembangan fitur baru yang dirancang untuk mendeteksi konten buatan kecerdasan buatan (AI). Langkah ini diambil sebagai respons atas meningkatnya kekhawatiran terkait penyebaran konten AI yang dianggap meresahkan, terutama yang digunakan untuk memalsukan informasi, manipulasi gambar, dan video. Fenomena deepfake dan konten palsu yang dibuat oleh AI telah menimbulkan dampak negatif pada keamanan informasi, menyebabkan Google mengambil tindakan lebih serius dalam mengatasinya.

Fitur yang sedang dikembangkan oleh Google ini menggunakan teknologi pembelajaran mesin canggih untuk mendeteksi pola-pola spesifik dalam konten yang dihasilkan oleh AI. Teknologi ini mampu membedakan antara konten yang dihasilkan manusia dan mesin, baik berupa teks, gambar, maupun video. Dengan adanya fitur ini, pengguna akan lebih mudah mengetahui apakah konten yang mereka lihat berasal dari sumber manusia atau dibuat oleh algoritma kecerdasan buatan. Google berencana mengintegrasikan fitur ini dalam platform pencariannya serta layanan lainnya seperti YouTube dan Google News.

Langkah ini disambut baik oleh berbagai pihak, termasuk industri teknologi dan masyarakat umum, yang khawatir akan penyebaran informasi palsu dan manipulasi digital. Para pakar keamanan siber menyatakan bahwa inisiatif ini adalah langkah positif dalam melindungi integritas informasi di internet, meskipun tantangan dalam mendeteksi konten AI masih terus berkembang. Di sisi lain, ada pula kekhawatiran bahwa teknologi pendeteksi AI ini bisa disalahgunakan untuk memfilter kebebasan berekspresi dan kreatifitas digital.

Meskipun fitur ini dipandang sebagai solusi atas permasalahan yang semakin kompleks, Google mengakui bahwa masih banyak tantangan yang perlu diatasi, terutama dalam hal akurasi deteksi dan potensi penyalahgunaan teknologi. Google menyatakan bahwa mereka akan bekerja sama dengan para ahli di bidang keamanan digital dan hak asasi manusia untuk memastikan fitur ini tidak hanya efektif, tetapi juga transparan dan adil dalam penerapannya.