Pentagon, AI ulgamlaryndaky hüjümçileri wizual hileler ýa-da manipulirlenen signallar arkaly ulanyp boljak gowşaklyklary çözmek üçin işleýär. Aldawçylyga garşy AI berkligini kepillendirýän gözleg programmasy (GARD), bu “garşydaş hüjümleri” 2022-nji ýyldan bäri derňeýär.
Gözlegçiler zyýansyz görünýän nagyşlaryň AI-ni nädogry zatlara aldap biljekdigini we söweş meýdanynda zyýanly netijelere getirip biljekdigini görkezdiler. Mysal üçin, AI dogry “wizual ses” bilen bellik edilen bolsa, tank üçin ýolagçylar bilen awtobusy ýalňyşyp biler.
Bu aladalar, Pentagonyň awtonom ýarag öndürmek baradaky köpçüligiň aladalarynyň arasynda ýüze çykýar. Bu meseläni çözmek üçin Goranmak ministrligi ýakynda AI ösüş düzgünlerini täzeledi, “jogapkärli özüni alyp barşyna” ünsi çekdi we ähli ýerleşdirilen ulgamlar üçin tassyklamany talap etdi.
Az mukdarda maliýeleşdirilen GARD programmasy şeýle hüjümlerden goranyşy ösdürmekde öňegidişlik gazandy. Hatda täze döredilen Goranmak ministrliginiň baş sanly we AI ofisine (CDAO) käbir gurallar bilen üpjün etdiler.
Şeýle-de bolsa, käbir düşündiriş toparlary alada galýarlar. AI bilen işleýän ýaraglaryň ýagdaýlary ýalňyş düşündirip, sebäpsiz hüjüm edip biljekdiginden gorkýarlar. Şeýle ýaraglaryň, esasanam dartgynly sebitlerde garaşylmadyk ýokarlanmagyna sebäp bolup biljekdigini öňe sürýärler.
