Новите открития и стремглавото развитие в света на изкуствения интелект и машинното обучение не спират. Машините показват забележителни постижения в различни сфери, но и поставят известни въпроси и морални дилеми, провокирани от като че ли необятните им възможности и страха от загуба на контрол на човека срещу роботите. Оказва се обаче, че дори най-интелигентните от тях си имат слаби страни.
През последните няколко години проучванията бяха фокусирани върху разработването на най-добрите игрални AI машини. Постиженията на изкуствения интелект преминаха от завладяването на дъската за шах, до изучаването на всички texas holdem правила и дори овладяването на играта бридж. Всъщност целта на всички тези експерименти и изследвания има много по-широк смисъл и маркира различните етапи на развитие в областта на машинното обучение и умните роботи.
Като крайъгълен камък за развитието на AI се отличават постиженията на роботите, играещи древната настолна игра Go. Като една от най-старите игри в света, Го изисква силна стратегия и се характеризира с огромен брой варианти за разиграване. До преди няколко години най-добрият играч на Go в света все още можеше да победи най-силния AI играч, но това се промени с появата на AlphaGo на DeepMind, който използва невронни мрежи за дълбоко обучение, за да се научи да играе на ниво, което хората не могат да достигнат. Наскоро друг изкуствен интелект наречен KataGo стана популярен като AI с отворен код за игра на Go, който може да победи играчи от най-висок ранг.
Машината обаче се оказа недотам безпогрешна, колкото се смяташе до момента. Наскоро група изследователи в сферата на AI публикуваха документ, очертаващ метод за победа над KataGo чрез използване на състезателни техники, които се възползват от слепите му петна. Чрез изиграване на неочаквани ходове извън набора за обучение на KataGo, много по-слаба състезателна програма за игра на Go (която хора аматьори могат да победят) може да подмами KataGo да загуби.
Авторите на това откритие разработват т.нар. „съперническа политика“ в AI. В този случай политиката на изследователите използва комбинация от невронна мрежа и метод, наречен Monte-Carlo Tree Search, за да откриват движенията в Go. Дървовидното търсене представлява алгоритъм за търсене на процеси при вземане на решения в софтуери за настолни игри.
Изкуственият интелект на KataGo научава играта, като изиграва милиони партии срещу себе си, но дори по този начин не успява да натрупа достатъчно опит, за да покрие всеки възможен сценарий и движение на дъската, което оставя място за уязвимости от неочаквано поведение. Според един от авторите на откритието, KataGo се справя добре с новите стратегии, но става е по-уязвим, що се отнася до тези партии, които не е практикувал скоро. По този начин учените откриват коя стратегия е слабото място на машината.
Идеята на тази стратегия е противникът да се съсредоточи върху малък участък на дъската, като по този начин предоставя на изкуствения интелект възможността да се разпростре върху останалата част от полето, докато противникът играе няколко лесни за улавяне камъка в своята територия. Това заблуждава KataGo, че печели играта, тъй като неговата територия е значително по-голяма от тази на противника.
В крайна сметка прекалената самоувереност в победата може да доведе до загуба за изкуствения интелект при окончателното преброяване на точките в края на играта. Макар да няма особено приложение в самата игра, подобна уязвимост в умните машини може да има много по-значими, а в някои случаи дори опасни последици в други сфери.
Изследването показва, че AI системите, които изглежда работят на много високо ниво, дори по-добре от човека, всъщност могат да се провалят по изненадващ за нас начин. Представете си изкуствен интелект на самоуправляваща се кола, който се сблъсква с изключително малко вероятен, неочакван и рядко срещан сценарий, например да извърши опасно поведение, подмамен от човешка намеса. Това изследване подчертава необходимостта от по-добро автоматизирано тестване на AI системи, за да се намерят и елиминират дори най-рядко срещаните сценарии, а не само да се тества производителността в най-честите случаи.
Половин десетилетие след като изкуственият интелект най-накрая триумфира над най-добрите играчи на Go, древната игра продължава да играе влиятелна роля в машинното обучение. Прозрения за слабостите на този изкуствен интелект може да бъдат от решаващо значение и, веднъж широко приложени, да предотвратят възникването на сериозни проблеми в сферата.