Syarikat pengesanan deepfake Israel berjuang menentang penyebaran maklumat palsu semasa peperangan Gaza

(SeaPRwire) –   deep

Sebuah syarikat mula, Clarity, telah membangunkan perisian untuk mengesan dan melindungi terhadap deepfakes dan baru-baru ini menaikkan pembiayaan benih pertama $16 juta.

Pengasas bersama Michael Matias, yang merupakan pegawai Israel Defense Forces (IDF) dan pemimpin dalam Unit Intelijen 8200, memberitahu Digital beliau memberi tumpuan kepada demokrasi dan bagaimana AI dan siberkeselamatan akan mengubah cara kita melayan institusi demokrasi kita, tetapi beliau tidak dapat mencari sebarang penyelesaian yang adaptif kepada dunia siber keselamatan virus baru ini.

Beliau menyatakan teknologi Clarity’s adalah mekanisme pertahanan baru peperangan.

Matias berkata beliau memikirkan teknologi Clarity sebagai mekanisme penapis air, menambah, “Terdapat banyak air, tetapi banyak daripadanya mempunyai bakteria, jadi kami membangunkan mekanisme penapis ini supaya apabila ia sampai kepada pengguna, ia disaring keluar. Jika ia tidak disaring sepenuhnya, setidaknya pengguna mengetahui bahawa terdapat beberapa anomali atau kotoran di sana.”

, sebuah syarikat yang memantau deepfakes, melaporkan bahawa terdapat 49,081 video deepfake yang dimuat naik di talian pada Jun 2020 dan video meningkat ke 85,047 pada Disember tahun yang sama.

Matias berkata pandangan awal Clarity tertumpu kepada anggapan mereka bahawa deepfakes akan muncul secara mendadak pada , tetapi pada bulan Oktober perkara berubah. Satu momen membangkitkan besar untuk Clarity adalah permulaan peperangan Israel-Hamas pada 7 Oktober, apabila apa-apa yang tidak siap pada masa itu perlu bersedia dalam masa beberapa hari dan bukan bulan sambil bekerja dengan kerajaan Israel dan media.

Matias berkata pasukannya terdiri terutamanya dari orang Israel, keluar dari IDF, jadi peperangan itu adalah subjek yang sangat dekat dengan hati.

“Peperangan [Israel-Hamas] menunjukkan kepada kami bahawa persepsi awam adalah satu bahagian besar segala yang berlaku … terutamanya apabila berkaitan dengan situasi tebusan [dengan] banyak ketidakpastian … apa yang berlaku di Gaza di mana setiap orang adalah seorang wartawan dengan telefon mereka sendiri dan setiap orang mempunyai saluran berita mereka sendiri di item Telegram atau Twitter atau TikTok.”

Beliau menambah bahawa ramai “memahami bahawa kita tidak hanya berperang di medan fizikal … [ia adalah] perjuangan digital juga.”

Liga Anti-Defamasi mendapati video deepfake mendapat banyak sambutan semasa peperangan Gaza dengan contoh video yang membentangkan “ulasan” rekaan peperangan dari tokoh-tokoh awam.

Bloomberg juga melaporkan tentang video deepfake mangsa-mangsa peperangan Israel-Hamas, yang kelihatan direka untuk menjana simpati dan kesan viral, walaupun pencipta mereka seringkali tidak dikenali. Kematian tragis diliputi berita, dan dalam masa beberapa hari atau jam, pengguna memuat naik video watak orang itu bercerita tentang bagaimana mereka mati. Format trend biasanya termasuk pengenalan dari perspektif orang itu dan imej deepfake mereka di skrin memberitahu kisah bagaimana mereka mati.

Matias berkata pembiayaan itu akan menyokong Clarity untuk menggandakan staf dan meluaskan operasi penyelidikan dan pembangunannya.

“Deepfakes [adalah] hampir seperti patogen virus. Ia sangat serupa dengan cara virus bertindak; ia mereplikasi dengan cepat, ia didedahkan dengan cepat. Seperti virus, anda perlu membangunkan antivirus untuknya. Dan ia bukan satu vaksin, ia bukan satu model AI yang hanya melaksanakan. Anda sebenarnya perlu membangunkan beberapa model berbeza di mana mereka juga terus-menerus mengemaskini dan terus-menerus mentransformasikan dan mampu menyesuaikan diri dengan bentuk berbeza virus.”