Учените призовават за регулация на Изкуствения интелект, за да не се осъществи сценарият от филма Терминатор

Още през 40-те години на миналия век известния американски писател Айзък Азимов измисля т. нар. три закона на роботиката – правила, на които всеки позитронен робот в неговите научнофантастични творби трябва да се подчиняват. Те са публикувани за първи път в разказа му "Runaround" от 1942 г. и гласят следното:

1. Роботът не може да причини вреда на човек или с бездействието си да допусне на човека да бъде причинена вреда.

2. Роботът е длъжен да се подчинява на човека, ако това не противоречи на Първия закон.

3. Роботът е длъжен да се грижи за собствената си безопасност, ако това не противоречи на Първия и Втория закон.

По-късно е формулиран  т. нар. нулев закон, създаден от робот: Един робот не трябва да причинява вреда на човечеството или чрез бездействие да причини вреда на човечеството. Съответно към останалите закони се добавя и "ако това не противоречи на Нулевия закон."

Технологиите и в частност изкуственият интелект се развиват с главоломни темпове, поради което трима учени призовават за повече отговорност и прозрачност в тази област, преди да е станало твърде късно.

В своята статия английските учени твърдят, че съществуващите към този момент правила не са достатъчни за ограничаването на онова, което изкуственият интелект може да направи – и препоръчват роботите да се придържат към същите стандарти, както хората, които ги създават.

Учените от института Алън Тюринг казват, че има много въпроси, които могат да причинят проблеми надолу по веригата, включително различната природа на системите, които се разработват и липсата на прозрачност относно тези технологии.

"Системите могат да взимат несправедливи и дискриминационни решения, да копират или развиват предубеждения и да се държат по необясним или неочакван начин в свръх чувствителни среди, които поставят интересите и безопасността на хората в риск," пише в публикацията на учените.

С други думи: как може да сме сигурни, че можем да вярваме на Изкуствения интелект?

Другият основен проблем засяга системите, които използват основно изкуствен интелект, но се нуждаят и от човешка намеса, което може да ги извади извън списъка на технологиите, нуждаещи се от системна регулация.

Сред предложенията, направени от учените, е идеята да се създаде списък с насоки за развитието на роботиката, изкуствения интелект и алгоритмите, които вземат решения, въпреки че те признават, че тези различни области като цяло са трудни за регулиране.

Учените също така отбелязват, че добавянето на повече прозрачност към системите, използващи изкуствен интелект, може да засегне тяхната ефективност – и съревноваващите се технологични компании може би няма да изгарят от желание да споделят "малките си тайни".

Нещо повече, тъй като при някои видове системи изкуственият интелект вече се самообучава, ние може би вече сме отвъд фазата, в която можем да обясним какво точно се случва.

"Непрозрачността и разнообразието от форми на изкуствения интелект усложнява юридическата кодификация на правата, които ако са прекалено широки или прекалено тесни, могат по невнимание да спънат развитието или да предоставят много малко полезна защита," пишат още учените.

Ситуацията е деликатна и е необходимо да се открие баланса между доводите на различните страни.
Не за първи път тези трима учени изказват критики към настоящите правила в областта на изкуствения интелект: през януари те призоваха научния свят да създаде регулаторен орган, който да следи развитието на тази технологична сфера, в отговор на изготвения от ЕС Общ регламент за защита на данните.

"Вече сме прекалено зависими от алгоритмите, за да се откажем от правото да поставяме под въпрос техните решения," заявява Лучано Флориди от Оксфордския университет.

Флориди и неговите колеги цитират случаи от Австрия и Германия, в които са усетили, че хората не получават достатъчно информация за това как алгоритмите, използващи изкуствен интелект, са стигнали до взетите от тях решения.

В крайна сметка, изкуственият интелект ще бъде в огромна услуга на човешката раса, независимо дали помага на възрастните хора да бъдат по-независими чрез автономни автомобили или засичайки ранните признаци на дадено заболяване, още преди лекарите да са способни да го направят.

Към момента специалистите се борят за вземането на превантивни мерки, които могат да предотвратят излизането извън контрол на тези системи или съсредоточаването на прекалено много власт в тях. Именно това се опитват да постигнат те със своята статия.

"Притесненията относно справедливостта, прозрачността, интерпретирането и отговорността са равностойни, имат общ корен и трябва да се разглеждат заедно, независимо от комбинацията от хардуер, софтуер и данни, от които са съставени системите," пишат учените.

Статията на английските учени е публикувана в журнала Science Robotics.

източник: sciencealert.com

Трите закона на роботиката сa взети от wikipedia.org

по статията работи: Величка Мартинова