Pesawat tempur berasaskan AI bawa AS kelebihan medan perang besar tetapi menimbulkan persoalan etika

Pembangunan pesawat tanpa juruterbang yang dikendalikan oleh kecerdasan buatan (AI) Angkatan Udara AS berpotensi memberi kelebihan kepada pasukan Amerika dalam sebarang konflik, tetapi ia juga menimbulkan persoalan etika tentang bagaimana teknologi sehebat itu harus digunakan di medan perang.

“Teknologi ini adalah sesuatu yang kita perlukan untuk masa depan pertahanan,” kata Phil Siegel, pakar AI dan pengasas Pusat Simulasi Kesediaan dan Tindak Balas Ancaman Termaju, memberitahu Digital.

Komen Siegel datang ketika Angkatan Udara terus membangunkan pesawat eksperimen XQ-58A Valkyrie, platform senyap dikendalikan kecerdasan buatan yang diharapkan oleh AS boleh menyediakan senjata yang agak murah yang boleh digunakan untuk mengurangkan kerugian kepada pesawat berpemandu dan juruterbang dalam konflik dengan saingan kuasa besar seperti China.

Pesawat tanpa juruterbang dikendalikan AI sedang dibangunkan oleh Kratos Defense & Security Solutions, yang dianugerahkan kontrak untuk membangunkan platform pada tahun 2016. Penerbangan ujian pertama yang berjaya bagi pesawat itu berlangsung pada Mac 2019, dengan pesawat itu berkelakuan “seperti yang dijangka” selepas menyiapkan ujian selama 76 minit.

Sejak itu, pembangunan pesawat itu telah diteruskan, termasuk ujian terkini yang melihat pesawat terbang secara formasi bersama F-15E Strike Eagle, menurut laporan dari Defence Connect. Membuktikan keupayaan itu adalah langkah penting bagi Angkatan Udara, yang membayangkan platform AI sebagai semacam rakan sepasukan bagi pesawat berpemandu yang boleh mengenal pasti ancaman, melibatkan sasaran dan malah menyerap tembakan musuh untuk pesawat berpemandu, jika perlu.

Salah satu kelebihan pesawat itu adalah kosnya yang agak murah, dengan Kratos menganggarkan setiap unit akan berharga kira-kira $4 juta jika mereka menghasilkan 50 buah pesawat setiap tahun, menurut laporan dari The Drive. Harga itu boleh dibandingkan dengan drone MQ-9 Reaper, yang dianggarkan berharga $30 juta setiap unit, menurut Pentagon, manakala pejuang F-35 pula berharga kira-kira $80 juta setiap unit.

Steve Fendley, presiden Kratos Unmanned, memberitahu Digital syarikat itu telah membangunkan sebuah pesawat yang datang pada harga jauh di bawah apa yang dikehendaki kerajaan AS sementara masih menyampaikan platform yang mempunyai “keupayaan komprehensif”.

“Ekonomi skala adalah luar biasa, kedua-duanya daripada kos pada mulanya sistem tanpa pemandu kerana anda tidak mempunyai sebarang perbelanjaan sistem mengekalkan hayat dan tahap kebolehpercayaan yang anda perlukan untuk sistem berpemandu berbanding sistem tanpa pemandu,” kata Fendley. “Di atas itu, kerana anda telah menyebarkan keupayaan, mengedarkan keupayaan, anda merebak kos itu ke ruang geometri yang jauh lebih luas, yang bermaksud risiko keseluruhan adalah sangat, sangat rendah berbanding risiko setara untuk [satu] sistem berpemandu tunggal.”

“Keupayaan untuk menggunakan aset secara lebih agresif tanpa kos atau risiko korban akan menambah keupayaan yang besar kepada perancang tentera,” kata Christopher Alexander, ketua pegawai analitik di Kumpulan Pembangunan Pelopor, memberitahu Digital.

Alexander berkata XQ-58A adalah “bukti konsep yang menakjubkan untuk strategi Pentagon yang revolusioner yang bergantung pada penyelesaian yang lebih murah dalam konflik,” tetapi beliau menyatakan bahawa penggunaannya “juga menimbulkan kebimbangan etika yang penting.”

Perancang tentera telah berkongsi kebimbangan tentang sejauh mana autonomi yang harus diberikan kepada senjata mematikan yang dikendalikan oleh AI, kebimbangan yang diserlahkan oleh program drone AS, yang kadangkala dikritik kerana rekodnya menyebabkan korban awam.

Alexander berkata kebimbangan itu setakat ini “telah diurus dengan baik oleh Jabatan Pertahanan,” dan Siegel menyatakan bahawa pembangunan lanjut akan diperlukan jika peranan pesawat dikendalikan AI diperluaskan dari keupayaan defensif kepada ofensif.

“Kuncinya adalah apa objektif yang kita letakkan dalam teknologi itu,” kata Siegel, mencatat bahawa platform yang murah itu setakat ini memusatkan usaha mereka untuk mempertahankan pasukan penerbangan berpemandu. “Peralatan dan risikan yang lebih mahal mungkin berada dalam peranti lain yang mempunyai keupayaan ofensif dan defensif. Tetapi persoalannya kemudian adalah bagaimana untuk menimbang objektif ini apabila ia mempunyai pelbagai peranan. Kemudian ia memerlukan arahan tentang apa yang perlu dilakukan apabila pertempuran keluar dari ruang latihannya atau apa yang berlaku jika deria atau kamera disekat dan data tidak tersedia?”

Walaupun Fendley menjelaskan bahawa Kratos bekerjasama dengan vendor lain yang membangunkan AI yang akan terbang pesawatnya, beliau percaya pengawalan yang mencukupi telah dilaksanakan, mencatat bahawa sistem dalam pembangunan akan memerlukan input manusia sebelum mereka dapat membuat keputusan tertentu.

“Terdapat banyak kebimbangan, dan dengan baik sebab, kerana saya fikir dalam banyak kes musuh kita akan jauh lebih bebas dengan apa yang mereka benarkan ejen kecerdasan buatan melakukan, dan saya tidak fikir negara kita akan melakukannya,” kata Fendley. “Yang sangat penting untuk difahami adalah mempunyai keupayaan tidak bermakna bahawa anda melakukannya. Adalah sangat mudah untuk memasukkan sistem yang mampu menggunakan senjata tanpa bertanya sesiapa. Ia juga sangat mudah untuk mempunyai sistem sekatan di dalamnya.”

Namun begitu, perancang tentera percaya keperluan teknologi sedemikian semakin meningkat jika AS mahu terus mampu menghadapi saingan kuasa besar seperti China, yang telah melabur sumber yang besar ke dalam sistem pertahanan udara yang boleh menyukarkan pasukan Amerika beroperasi dalam konflik tanpa mengalami kerugian peralatan dan nyawa yang besar.

“Kita perlu bergerak ke arah menambah AI – kedua-dua dalam peralatan dan sebagai bantuan kepada tentera kita membuat keputusan,” kata Siegel. “Seperti semua AI, kita akan perlu memberikannya objektif prestasi dan memberikannya arahan untuk senario bermaklumat tinggi dan bermaklumat rendah. Itulah realiti pertempuran.”