Titik Kumpul Tekno – Teknologi replikasi suara berkembang begitu pesat sehingga memungkinkan kita membuat tiruan suara seseorang yang sangat mirip dari sampel audio pendek.
Meski teknologi ini membawa banyak manfaat, seperti membantu pembuat konten dan industri hiburan, namun penyalahgunaannya memiliki risiko yang besar.
Beberapa pihak yang tidak bertanggung jawab sudah mulai menggunakan teknologi ini untuk melakukan penipuan. Misalnya saja di Amerika Serikat (AS) yang pernah terjadi penipuan dengan robocaller yang meniru suara Presiden Joe Biden.
Penipu mencoba mempengaruhi pemilih Partai Demokrat di New Hampshire untuk tidak memilih dalam pemilihan presiden.
Aktivitas penipuan lainnya termasuk melakukan panggilan telepon palsu yang seolah-olah berasal dari orang-orang terdekat Anda untuk mendapatkan uang.
Untuk mengatasi penyalahgunaan ini, Meta, perusahaan induk dari Facebook, WhatsApp, dan Instagram, mengembangkan teknologi watermarking audio yang disebut AudioSeal.
AudioSeal adalah teknik watermarking audio pertama yang dirancang khusus untuk mendeteksi ucapan yang dihasilkan AI, lapor IFL Science.
Saat ini, deteksi audio sintetik biasanya bergantung pada algoritme yang dilatih untuk membedakannya dari ucapan normal. Namun, pendekatan Meta berbeda.
Mereka menyertakan tanda air pada audio yang dihasilkan. Watermark ini tidak terdengar oleh telinga manusia, namun dapat dideteksi menggunakan algoritma tertentu.
“Watermarking adalah alternatif yang ampuh,” tim riset Meta menjelaskan dalam makalah yang diposting di server pracetak arXiv. “Ini termasuk sinyal dalam audio yang dihasilkan, yang tidak terdengar oleh telinga, namun dapat dideteksi dengan kuat oleh algoritma tertentu.”
Tim peneliti mengatakan sistem ini efektif mendeteksi watermark dengan tingkat akurasi antara 90 hingga 100 persen.
Namun, metode ini mengharuskan perusahaan teknologi pembangkit suara untuk menyertakan tanda air pada file audio mereka, yang mungkin tidak akan terjadi dalam waktu dekat.
Meskipun teknologi watermarking ini menjanjikan, ada juga potensi penyalahgunaannya. Misalnya, pemerintah dapat menggunakannya untuk mengendalikan para pembangkang atau perusahaan dapat mengidentifikasi pelapor.
Selain itu, tanda air dapat digunakan untuk menegakkan hak cipta atas konten buatan pengguna, yang dapat meningkatkan skeptisisme terhadap keaslian komunikasi digital dan melemahkan kepercayaan terhadap media digital dan kecerdasan buatan.
Terlepas dari risiko-risiko ini, tetap penting untuk memastikan kemampuan mendeteksi konten yang dihasilkan AI.
Langkah-langkah keamanan yang kuat dan kerangka hukum yang memadai diperlukan untuk mengatur penggunaan teknologi ini dan mencegah penyalahgunaan.
Makalah lengkap tentang teknik ini tersedia di server pracetak arXiv, sedangkan produk AudioSeal sendiri dapat ditemukan di GitHub. Dengan teknologi ini, Meta berharap dapat melindungi kita dari ancaman penipuan digital yang semakin canggih.
