Най-големият ни грях е, че се смятаме за много рационални, а всъщност взимаме ирационални решения, казва Мариана Тодорова, футуролог и визионер, доцент в Института по философия и социология в БАН.
– Доцент Тодорова, военните технологии променят воденето на войната. В каква степен изкуственият интелект ще владее тези промени?
– Понятието „изкуствен интелект“ (AI) е измислено през 1956 г. от Джон Маккарти, който смята, че трябва да бъдат изработени машини, които наподобяват човешката интелигентност. В тази плоскост още не е направен пробив, защото се работи в старите рамки на семантичен и символичен интелект. Пробивът идва с изработването на невронните мрежи, чийто баща е Джефри Хинтън, който до 2023 г. е вицепрезидент на Гугъл. Тази година той взе Нобелова награда по физика за разработки в областта на изкуствения интелект. Преди Коледа беше пуснат най-новия модел изкуствен интелект – o3, за който се твърди, че носи белези на генерален изкуствен интелект, т.е. има някакъв вид съзнателност и разсъдъчни умения. Той не е съзнателен все още, но в голяма степен наподобява начина на разсъждение и как градим тезите си чрез причинно-следствени връзки. Затова го наричат разсъждаващ изкуствен интелект. Смята се, че още поне 3-5 години са необходими за появата на генералния изкуствен интелект.
– Как изкуствения интелект променя сферата на сигурността, военното дело и воденето на войни?
– Хората виждат проявите на изкуствен интелект най-вече в медицината, писането на текстове, изработката на съдържание, генериране на фалшиви новини. Но първите разработки винаги са във военното дело. През 2016 г. бях в Националния университет по сигурността във Вашингтон, имаше хора от ЦРУ и военното министерство. Там бяха представени модели изкуствен интелект, които по ключови думи в медиите от Средния изток да предвидят дали може да има атентат или социално недоволство. Още преди 9 години те бяха обучили този интелект да открива пароли, словосъчетания, които обрисуват социални настроения. Оттогава много неща са се променили. Страни като Китай, Япония, Южна Корея и САЩ отдавна използват лицевото разпознаване за свързване на нашата идентичност и лице и можем да проследяваме всекиго във всеки момент. Полицията в Лос Анжелис използва от около 7 години такъв изкуствен интелект. Американските градове са разделени на квадранти. Някои от тях са безопасни, други са изключително опасни, макар разстоянието между тях да е едва 200 метра. Когато някъде бъде извършено престъпление, те питат винаги изкуствен интелект дали с камери е уловил някой от криминалния контингент в близост. Така се опитват да обвържат престъплението с конкретна личност. Той дава набор от хора, които са били наблизо, и това доста ускорява разкриването на престъплението.
Изкуствен интелект в сферата на сигурност и на военното дело ще работи изключително много с концепцията за интернет на нещата (IoT). Това е интернет материалната инфраструктура с разположени около нас сензори. Те изпращат информация до AI, той я обработва и извежда тенденции, които са невидими за човешкото око и нашите когнитивни способности. Такава статистика открива много сложни корелации, които са отвъд статистиката. Например, най-много стрелби и битови престъпления има в дните преди получаване на социалните помощи. Или в зимни дни, когато нарастват депресивните състояния и склонността към риск е по-голяма. Открили са, че най-често престъпления се случват в понеделник или вторник. Полицейските управления знаят, че в определена зона има голяма вероятност да се случат престъпления и насищат района с повече полицейски патрули. AI се използва широко на големи площади, летища, концерти, където анализира чрез лицевата експресия и езика на тялото кой индивид е с повишена вероятност да извърши престъпление. Чрез сензорите AI добива информация чрез езика на тялото за повишена тревожност, повишено сърцебиене и казва – този човек е с 86 на сто вероятност да извърши престъпление. Съществуват и морални въпроси – че не е законно някой да бъде следен и сниман без неговото разрешение, и какво става с останалите 14 на сто вероятност да не е потенциален извършител на престъпление. В Китай нещата са еднозначни – там вече действа социалната кредитна система – чрез приложение WeChat (Weixin в Китай), свързан с AI човек си вкарва лицето, кредитната карта, дава пълен достъп до телефона си и камерата му. Те действат като черните кутии при самолетите – ако катастрофираш, оставаш на място, полицията идва и сваля данните от телефона ти. Те се пазят по 2 седмици. Това е много фрустриращо за общества като нашето, но за китайците е напълно естествено и те го приветстват.
– Как стоят нещата с чисто военната сигурност? Там се кредитира проактивно поведение с цел да се изпревари противника?
– На първо място чрез AI се извършва разузнаване и киберразузнаване в дарк-мрежите, където се търгува с хора и оръжия, организира се изпращане на частни военни формирования, опазва се националния суверенитет като следи за опити за достъп до критична инфраструктура – компютърна или физическа. Другият параметър е обвързване на всички военни платформи със сензорите от IoT. На бойното поле в Украйна вече видяхме AI да управлява ята от дронове. Вече се създават подводници, самолети. Свързани с AI те правят анализ на терен какво засичат сензорите и изграждат сценарии за действие. Една от най-добрите компании за AI във военното дело – „Палантир“, показа през март м.г. AI, който подпомага взимането на решения в контролния команден център. Дава се задача за натовски център в страна от Източна Европа, който е превзет. AI направи оценка на хората и оръжието в центъра и предложи 3 варианта как да се действа.
Но още от 2012 година най-големият дебат, който се води в Пентагона, е дали изкуствен интелект трябва да участва при анализ на бойните действия и съвети какво да се прави и дали трябва да бъде свързан с ядрени оръжия. Това се прави не защото една страна иска непременно да е много по-добра, а защото като предполага, че врагът би могъл да има такъв много умен изкуствен интелект анализът на бойните действия на терена става за секунди. Това, което за нас е невъзможно. И при този сценарий Америка безвъзвратно би изгубила военното си преимущество. Затова в САЩ разрешиха т. нар. автономни оръжия, които са изцяло задвижвани от AI.
Досега, преди Украйна, си мислехме че войната е кибер война, за информационно пространство, за технологии и прочие. Живеем в материален свят и COVID показа, че търсим съотносимост към материалната реалност. С каквито и технологии да разполагаш, понякога количественото превъзходство и умението да се присъства 2 години на бойното поле, каквото Русия демонстрира, още води до стратегическо предимство. AI все още не може да мисли назад и да проектира напред и няма субективност, но това ще стане чрез роботиката и ще еволюира в материална реалност, така както ние сме еволюирали, просто ще се появят роботите-убийци и тогава и вече това преимущество, което Русия има ще изчезне.
– Кое е по-важно – използването на AI на оперативно ниво или при вземането на стратегически решения?
– И двете са важни – това е като тактиката и стратегията. Хардуерът не е толкова важен, колкото софтуерът и т. нар. невронни мрежи. В този материален свят ние искаме да околичествим всичко, но истината е, че голяма роля играе духът, волята на войника, вярата, кредото, с което участваш в една битка, е по-определящо от супер физическата кондиция.
– Каква е визията ти за концепцията на бъдещите войни?
– Докато светът продължи да бъде асиметричен, в който силите ще разчитат на чисто количествено превъзходство, ще виждаме това, което се случва в Украйна. Но когато AI се развие в достатъчна степен всичко ще се видоизмени – ще се разчита на малки операции, партизански войни, терористични нападения и на унищожаване на критична инфраструктура като кабелите за интернет в Северно море, част от инфраструктурата за „Турски поток“. Една от най-големите опасности пред човечеството е свързването на AI с ядрени оръжия и възможността AI да хакне ядрена централа, да предизвика ядрен взрив и така да се опита да реши даден конфликт. Следващото ниво ще е използването на Космоса за решаване на конфликти на Земята.
– Все още хората взимат решение вместо AI. Това всъщност добре ли е? Кой е най-големия ни грях като хора?
– Нивото ни на съзнание като човечество е много ниско. Не сме достигнали този генерален AI, който да иска да доминира и все още хората взимат решения. Хората като вид не сме еволюирали толкова много. Ние сме войнолюбци, агресивни, с желание за доминация, силно задвижвани от егото. Най-големият ни грях е, че смятаме че сме много рационални, а всъщност взимаме ирационални решения. Политическите лидери се движат от егото си. Виждала съм как политическите решения се взимат от его, а не от следване на общественото благо. И това че, военните конфликти са разрешени като механизъм на спорове и противоречия. Ако те бъдат забранени, просто ще търсим другия път, а винаги има друг път.
