Deepfakes: seni menciptakan "penulis palsu" pada saat kecerdasan buatan

Dalam beberapa tahun terakhir, pengembangan dan implementasi jaringan saraf dalam telah mempercepat pengembangan aplikasi yang mampu mengenali berbagai kategori gambar dan video dengan sangat andal. 

Ini adalah model matematika yang berakar pada studi yang diterbitkan lebih dari setengah abad yang lalu dan hanya dalam beberapa tahun terakhir, berkat komputer berkinerja sangat tinggi dengan biaya rendah, mereka berkembang pesat, memungkinkan penerapannya dalam konteks nyata yang berbeda, seperti pengenalan wajah dan ucapan manusia.

Sebuah aplikasi yang menikmati kesuksesan di dunia hiburan, tetapi menimbulkan beberapa masalah keamanan, adalah pembuatan deepfakes, kombinasi dari 'pembelajaran mendalam' dan 'palsu'. Istilah ini mengacu pada setiap kreasi yang diperoleh melalui teknik yang mampu melapiskan gambar seseorang (target) dengan orang lain (sumber) dalam sebuah video di mana orang kedua melakukan atau mengatakan hal-hal tertentu. Dengan cara ini Anda mendapatkan video realistis palsu di mana, misalnya, seorang aktor berperan, tetapi wajahnya secara realistis ditumpangkan pada wajah orang terkenal yang tidak pernah mengucapkan frasa yang diproklamirkan oleh aktor atau dia dalam konteks adegan. Secara lebih umum, dengan istilah deepfakes itu mengacu pada konten sintetis yang diperoleh melalui alat kecerdasan buatan.

Baru-baru ini beberapa artikel telah mengusulkan ikhtisar teknik untuk membuat deepfakes dan untuk identifikasi mereka. Teknik deteksi sangat penting untuk mengidentifikasi gambar dan video yang dibuat khusus untuk memberi informasi yang salah atau, lebih umum, untuk menipu orang. Dalam karya "The Creation and Detection of Deepfakes: A Survey"¹ dan "Pembelajaran Mendalam untuk pembuatan dan Deteksi Deepfake: Survei"², penulis menjelaskan tren terkini dalam teknologi manufaktur deepfake, dan kemungkinan penggunaan dengan itikad baik dan buruk.

Selain penggunaan yang sah dalam bidang produksi film atau terjemahan mesin misalnya, ada seluruh rangkaian penggunaan ilegal, khususnya dalam produksi film porno atau dalam pemalsuan pidato, untuk tujuan mencari uang dengan mudah, mempengaruhi opini publik dan pemilihan umum, menciptakan kepanikan, menghasilkan bukti persidangan palsu dan sebagainya. 

Upaya pertama untuk menciptakan deepfake itu ditelusuri kembali ke pengguna Reddit yang mengembangkan aplikasi yang disebut 'FakeApp' menggunakan model berdasarkan penyandi otomatis digabungkan untuk mengekstrak fitur utama dari gambar wajah dan mereproduksinya pada gambar wajah lain. 

Un penyandi otomatis adalah jaringan saraf yang terdiri dari encoder dan dari a decoder, dibuat untuk tujuan mengekstraksi karakteristik utama dari sekumpulan data tidak berlabel (encoder) dan merekonstruksi data input (decoder) mulai dari representasi ringkas yang dibuat sebelumnya. SEBUAH deepfake dapat dibuat menggunakan encoder khusus pada wajah seseorang dan menggunakan pengkodean sehingga diwujudkan sebagai data input untuk a decoder khusus pada wajah orang lain.

Teknologi kedua untuk memproduksi 'deepfakes' adalah penggunaan 'Generative Adversarial Networks'. Juga dalam hal ini kita berurusan dengan jaringan saraf yang tujuannya adalah untuk membuat gambar realistis yang tidak sesuai dengan orang nyata³.  

Penggunaan teknologi ini membuat semakin sulit untuk membedakan antara gambar atau video nyata (gambar atau ucapan) dan yang dimodifikasi, menciptakan masalah serius di bidang privasi, kehidupan demokrasi dan keamanan nasional.  

Dalam publikasi ini, referensi juga dibuat untuk beberapa kasus yang menarik bagi dunia militer, di mana citra satelit yang dimodifikasi untuk tujuan militer dihasilkan, dengan rincian yang tidak ada dalam aslinya.

Memang benar bahwa semakin sulit untuk membedakannya deepfakes dari kenyataan, memang benar bahwa teknologi membantu kita. Dalam karya-karya mereka, penulis mensurvei teknik analisis utama yang digunakan dalam survei deepfakes, teknik yang sering menggunakan, sekali lagi, teknologi dari belajar mendalam. Sayangnya, bagaimanapun, teknik deteksi ini sangat rentan, dan upaya moderat sudah cukup untuk mengubah proses pembuatan deepfakes sehingga ini tidak lagi dikenali seperti itu.

Saat ini, dalam banyak kasus, gambar video digunakan dalam persidangan kriminal, video yang disertifikasi oleh ahli forensik.

Tetapi seberapa besar Anda dapat mempercayai apa yang Anda lihat atau dengar dalam sebuah video?

Kurang dan kurang ... itu sebabnya akan semakin diperlukan untuk mendukung ahli IT (forensik digital) mampu menggunakan dan mengenali penggunaan belajar mendalam kepada ahli forensik. Sayangnya, bahkan dengan melakukan itu, dalam beberapa kasus hasilnya mungkin tidak cukup untuk memastikan kebenaran karena tidak selalu mudah atau mungkin untuk menjelaskan cara kerja suatu teknologi. belajar mendalam untuk menghasilkan atau menemukan deepfakes. 

Oleh karena itu perlu untuk menggabungkan teknik dan metodologi intelijen untuk verifikasi komparatif konteks dengan perangkat teknologi analisis gambar dan video.

Alessandro Rugolo, Giorgio Giacinto, Maurizio d'Amato

_{Untuk mempelajari lebih lanjut:}

_{- Penciptaan dan Deteksi Deepfakes: Sebuah Survei (arxiv.org)} 

_{- [1909.11573] Pembelajaran Mendalam untuk Pembuatan dan Deteksi Deepfakes: Survei (arxiv.org)}

_{- Senjata Berkemampuan AI Terbaru: Foto Bumi yang 'Memalsukan Dalam' | jam tangan musim dingin}

_{- Senjata Berkemampuan AI Terbaru: Foto Bumi yang 'Memalsukan Dalam' - Defense One}

_{- Membangun dan Melatih Autoencoder Palsu Dalam - CodeProject}

_{- Model Jaringan Neural Berulang Encoder-Decoder untuk Terjemahan Mesin Neural (machinelearningmastery.com)}

_{- Generator wajah palsu AI dapat diputar ulang untuk mengungkapkan wajah asli yang mereka latih | Ulasan Teknologi MIT}

_{- Memahami Generative Adversarial Networks (GANs) | oleh Joseph Rocca | Menuju Ilmu Data}

_{- [1406.2661] Jaringan Permusuhan Generatif (arxiv.org)}