Gambar ini dibuat dari video palsu yang menampilkan mantan Presiden Barack Obama dengan menunjukkan elemen-elemen pemetaan wajah yang digunakan dalam teknologi baru, yang memungkinkan siapa pun membuat video tentang orang-orang nyata yang muncul untuk mengatakan hal-hal yang belum pernah mereka katakan. Ada kekhawatiran yang meningkat bahwa musuh-musuh AS akan menggunakan teknologi baru untuk membuat video yang tampak otentik untuk memengaruhi kampanye politik atau membahayakan keamanan nasional.
Apakah perlu cemas saat menonton film The Matrix di Youtube dengan wajah Will Smith menggantikan Keanu Reeves sebagai tokoh Neo? Atau, wajah Tom Cruise sebagai Peter Parker dalamSpiderman? Juga, Mr Bean sebagai Donald Trump?
Video yang bisa disaksikan di Youtube ini, yang berisikan kumpulan penggalan film atau pertunjukan sejumlah aktor yang diganti wajahnya. Meski demikian, pemirsa menyadari video tersebut sengaja dibuat untuk tujuan menghibur.
Penggalan The Matrix buatan tahun 1999 selama dua menit di Youtube itu menggunakan wajah Will Smith menggantikan Keanu Reeves. Penciptanya menyebut diri sebagai Shamook disebut Tim Bradshaw dalam tulisannya di Financial Times menggunakan peranti lunak gratisan DeepFaceLab untuk menempelkan wajah Smith pada wajah Reeves.
Pelanggan film China menunggu di depan poster bintang Hollywood, Keanu Reeves, di Paradise Warner Bros Cinema City, Shanghai, 18 Juli 2003.
Deepfake telah menjadi semakin umum. Sebagian produk deepfakemenjadi hiburan dan orang tahu bahwa video tersebut palsu, tetapi muncul kekhawatiran terjadi penyalahgunaan yang merugikan dan mengancam demokrasi. Seperti video yang menjelaskan bagaimana caradeepfake bekerja melalui contoh video Presiden Barack Obama yang dimanipulasi ini.
Facebook mendefiniskan deepfakesebagai teknik menyajikan video orang-orang yang benar-benar nyata, tetapi melakukan perbuatan atau mengatakan informasi fiktif dengan menggunakan teknologi kecerdasan buatan (artificial intelligence/AI) untuk tujuan menyesatkan penonton.
Penamaan deepfake berasal dari cara penciptaan produk, yaitu menggunakan teknologi pembelajaran secara mendalam (deep learning technology), salah satu cabang pembelajaran mesin, yang diterapkan dengan menggunakan jaringan saraf buatan atas serangkaian data berukuran besar dan masif dengan tujuan menciptakan suatu produk palsu.
Deepfake sudah berusia dua tahun, tetapi belakangan kembali menarik perhatian karena kemajuan teknologi semakin memudahkan pembuatan produk deepfake dan hasilnya semakin realistis, sulit membedakan apakah video tersebut palsu atau tentang orang sesungguhnya.
Jika sebelumnya diperlukan data video dalam jumlah sangat besar untuk menghasilkan satu video deepfake, teknologi terbaru dalam aplikasi Zao dari China memungkinkan mengganti wajah siapa pun di video hanya dengan menggunakan satu foto wajah pengguna aplikasi. Pengubahan wajah hanya perlu beberapa detik karena klip yang disediakan Zao terbatas dan telah dipilih lebih dulu. Kehebohan terjadi ketika Zao menyediakan klip wajah Leonardo DiCaprio dalam film Titanic.
Leonardo DiCaprio (Dok, 2 Maret 2014)
Penyalahgunaan
Salah satu kekhawatiran dari munculnya aplikasi deepfake adalah penyalahgunaan untuk menyebarkan kabar bohong. Apalagi, semakin lama teknologi AI yang mendasari deepfakemampu menghasilkan video yang semakin sulit dibedakan antara yang palsu dan yang asli. Bagi kebanyakan orang, kabar bohong tersebut akan diterima sebagai informasi nyata.
Dalam laman Facebook ini, Chief Technology Officer Facebook Mike Schroepfer menyebut, deepfakememiliki implikasi nyata untuk menentukan keabsahan informasi yang disajikan secara daring.
Twitter melalui akun @TwitterSafetyjuga menaruh perhatian pada pengaruh deepfake terhadap informasi di media sosial, termasuk Twitter. Twitter menggunakan istilah "media sintetis dan dimanipulasi" untuk menggambarkan informasi yang dibuat untuk menyesatkan pengguna Twitter.
@TwitterSafety
VP Trust and Safety Twitter Del Harvey menyebut, upaya sengaja untuk menyesatkan atau membuat bingung masyarakat melalui media yang dimanipulasi menurunkan integritas percakapan.
Melalui diskusi dengan sejumlah ahli dan peneliti, Twitter mendefinisikan media "sintetis dan dimanipulasi" tidak hanya sebatas video. Harvey menyebut, "Setiap foto, audio, atau video yang secara nyata telah dibuat atau ditukangi begitu rupa dengan tujuan menyesatkan masyarakat atau mengubah arti yang sesungguhnya."
Kekhawatiran ancaman deepfaketerhadap demokrasi dan masyarakat disuarakan juga oleh kalangan akademisi yang bekerja bersama Facebook melawan informasi palsu. "Orang telah memanipulasi gambar sejak lahirnya fotografi. Namun, sekarang setiap orang mungkin menciptakan dan menyebarkan (informasi) palsu ke audiens secara luas luas," kata Profesor Electrical Engineering & Computer Science dan Direktur MIT Quest for Intelligence Antonio Torralba dalam laman Facebook.
"Media yang dimanipulasi dan berada di internet untuk menciptakan teori konspirasi palsu dan memanipulasi masyarakat demi keuntungan politik menjadi isu global penting dan ancaman mendasar terhadap demokrasi, dan karenanya kebebasan," kata Profesor Philip H S Torr, Department of Engineering Science, University of Oxford.
Schroepfer menyebut, teknik deepfakeberupa video yang tampak realistis tentang orang-orang nyata melakukan atau mengatakan sesuatu secara fiktif dengan menggunakan teknologi AI memiliki implikasi nyata dalam menurunkan keabsahan informasi yang disajikan secara daring.
"Namun, industri (daring) tidak memiliki cukup data atau tolok ukur untuk mendeteksi deepfake. Kami ingin mengatalisasi lebih banyak riset dan pengembangan dalam bidang ini untuk memastikan alat yang lebih baik secara open source untuk mendeteksideepfake," tulis Schroepfer. Untuk itu, Facebook bekerja sama dengan Partnership AI, Microsoft, dan akademisi dari sejumlah universitas papan atas di Amerika Serikat membangun Deepfake Detection Challenge.
Sophia, robot yang didukung dengan teknologi kecerdasan buatan (AI) yang diaktifkan pada 2016 dan diciptakan oleh perusahaan Hanson Robotics yang berbasis di Hong Kong, saat melakukan wawancara khusus dengan media pada CSIS Global Dialogue 2019 di Jakarta, Senin (16/9/2019). Sophia diperkenalkan sebagai wujud masa depan teknologi AI, yaitu saat manusia dan robot dapat kerja sama di berbagai bidang.
Kekhawatiran terhadap dampakdeepfake meningkat karena membuatdeepfake semakin mudah dan hasilnya semakin realistis. Bukan hanya wajah di dalam video yang dapat diubah, tetapi juga suara. Bukan hanya dibuat untuk penyesatan ucapan para pemimpin dunia dan tokoh politik, yang terbanyak justru untuk memanipulasi video pornografi dengan korban terbanyak adalah para selebritas.
Dunia hiburan
Meskipun aplikasi deepfakemenyediakan kemungkinan mengganti wajah aktor atau aktris di dalam film layar lebar dengan biaya murah, bahkan tanpa berbayar, saat ini hanya segelintir rumah produksi efek khusus di Hollywood tertarik menggunakan.
Alasannya, saat ini teknologi deepfakebelum menghasilkan efek sesempurna yang diharapkan untuk film layar lebar. Tantangan terbesar adalah pada menampilkan cara bergeraknya wajah manusia, seperti gerakan otot wajah dan arah pandangan mata. Ketika video atau film ditampilkan di layar selebar lebih dari 10 meter, ketidaktepatan sedikit saja akan segera terlihat.
Peluang aplikasi deepfake dalam pembuatan film sangat besar karena akan memotong anggaran pembuatan film. Salah satu pendiri dan direktur kreatif studi efek khusus DNEG yang telah memenangi beberapa penghargaan, Paul Franklin, kepada media daring Financial Timesmenyebut biaya jutaan dollar AS per menit untuk efek visual berkualitas tinggi karena pekerjaan ini sangat padat tenaga kerja berkemampuan teknologi digital.
Meskipun sebagian besar studio efek khusus menganggap deepfake bukan teknologi serius untuk menghasilkan efek khusus bagi film layar lebar, sudah ada yang menggunakan teknologi ini dalam produksi film layar lebar. Dalam film Pokemon Detective Pikachu, untuk membuat tampilan aktor Bill Nighy yang memerani karakter Howard Cliffton tampak lebih muda, digunakan aplikasi deepfake.
Aktor Bill Nighy, pemeran karakter Howard Cliffton dalam film Pokemon Detective Pikachu. Foto ini diambil saat dia menghadiri konferensi pers untuk film The Kindness Of Strangers di Berlin, Jerman, 7 Februari 2019.
Teknologi deepfake dipakai selain karena alasan eksperimen, juga karena selama beberapa detik berupa gambar arsip beresolusi rendah pada pembukaan film tidak sebanding dengan biaya jutaan dollar AS jika menggunakan teknologi efek khusus. Teknologi efek khusus biasanya memerlukan data berukuran sangat besar dengan mengambil wajah tokoh yang ditampilkan dari berbagai sisi dan dalam berbagai usia, baik dalam bentuk gambar video maupun foto saat usia muda.
Tentang masa depan deepfake, tidak mudah untuk memperkirakan. Alasannya, peranti ini bersifat open source, di mana semua orang dapat berpartisipasi mengembangkan. Hal tersebut membuat komersialisasi peranti tersebut agak tertahan.
Tidak ada komentar:
Posting Komentar