Необходим ли е четвърти закон на роботиката в контекста на изкуствения интелект?

Ако великият Айзък Азимов имаше как наистина да погледне напред в бъдещето на роботизираните системи и изкуствения интелект – чак до наши дни, вероятно би формулирал и четвърти закон на роботиката и сигурно би коригирал съдържанието на измисленото ръководство по роботехника от 2058 г., цитирано в разказите му като първоизточник на трите основни закона.

 

Все повече учени, писатели, изследователи и футуролози се обединяват около твърдението, че трите правила на писателя имат нужда от преразглеждане и допълване, предвид факта, че са широко възприемани като етична основа при разработката на днешните роботи. Скорошен пример е статия на един от най-популярните съвременни експерти в областта – Дариуш Йемиелняк.

 

Професор по мениджмънт в университета "Козмински" в Полша, заместник-председател на Полската академия на науките, член на борда на Wikimedia Foundation и на Европейския институт по иновации и технологии, Йемиелняк преразглежда трите закона на роботиката на Азимов и описва евентуалните предпоставки да се въведе четвърти такъв в контекста на посоките на развитие на изкуствения интелект през последните години.

 

Гледната му точка е поместена на уебсайта на Институтa на инженерите по електротехника и електроника (IEEE) и е категорична – необходима е още една формулировка на закон, тъй като AI платформите днес крият допълнителни рискове за човека, отвъд онези, които легендарният фантаст е предвидил през миналия век.

 

Роботът (не) трябва, роботът (не) може…

 

Айзък Азимов въвежда трите закона на роботехниката през далечната 1942 г. в разказа си "Хоро" ("Runaround"). Правилата, широко популяризирани при включването им в сборника "Аз, роботът", гласят:

 

1. Роботът не може да навреди на човешко същество или чрез бездействие да причини вреда на човешко същество;
2. Роботът трябва да се подчинява на заповедите, получени от човешки същества, освен когато тези заповеди влизат в противоречие с Първия закон;
3. Роботът трябва да защитава съществуването си освен когато това влиза в противоречие с Първия и с Втория закон.

По-късно авторът формулира и нулев закон – "Един робот не трябва да причинява вреда на човечеството или чрез бездействието си да допусне на човечеството да бъде причинена вреда", а към останалите правила се добавя условието "…ако това не противоречи на Нулевия закон".

 

 

Съвременен поглед към рамката

 

Макар да произхождат от научната фантастика, тези норми са основа на дискусии относно етиката при роботизираните системи от десетилетия насам, посочва в скорошната си публикация проф. Дариуш Йемиелняк.

 

AI системите, които могат да бъдат считани за виртуални роботи или да служат като "съзнание" на физически такива, стават все по-съвършени и същевременно все по-масово използвани от хората. "Редица технолози намират рамката на Азимов за изключително важна и полезна при идентифицирането на потенциални рискове при взаимодействието между изкуствения интелект и човека", посочва експертът.

 

По думите му обаче съществуващите правила вече не са достатъчни. "Навлизаме в ера на безпрецедентна колаборация между човека и AI платформите, каквато Айзък Азимов няма как да си е представял. Светкавичният напредък в способностите на генеративния изкуствен интелект, особено при генерирането на текстове и изображения, създава предизвикателства, които са далеч отвъд първоначалните опасения от телесни повреди и неподчинение", добавя Йемиелняк.

 

 

Нови рискове в ерата на AI и умните роботи

 

В книгата си от 2019 г. "Съвместим с човека: изкуственият интелект и проблемът с контрола" изтъкнатият специалист по компютърни науки Стюарт Ръсел твърди, че способността на AI системите да мамят и подвеждат хората представлява основно съвременно предизвикателство за социалното доверие.

 

"Притесненията в тази посока са отразени в актуалните политически инициативи в областта на ИИ и по-специално в Законодателния акт за изкуствения интелект на Европейския съюз (AI Act), който залага изисквания за прозрачност при взаимодействието с изкуствен интелект и задължително разкриване и обозначаване на съдържание, генерирано от AI платформи. По времето на Азимов хората не са могли да си представят как изкуствени агенти могат да използват инструменти за онлайн комуникация и аватари, за да измамят хората", убеден е специалистът.

 

Ето защо Дариуш Йемиелняк предлага допълнение към рамката на Азимов, отразяваща актуалните рискове при общуване с интелигентни физически или виртуални роботи:

 

4. Роботът или изкуственият интелект не бива да заблуждава/подвежда хората, като се представя за човешко същество.

 

 

Интересно е да отбележим, че разсъждения, подобни на тези на световния експерт (споделени с публиката четвърт век след началото на новото хилядолетие), са поднесени на родните почитатели на научната фантастика още преди повече от 50 години – от Любен Дилов в романа "Пътят на Икар". Там писателят формулира свой "Четвърти закон на роботиката", който гласи: "Роботът е длъжен при всички обстоятелства да се легитимира като робот" и е свързан със "скъпо струващите увлечения на конструкторите да придават колкото се може по-човешки вид на психороботите", както пояснява самият писател.

 

В българското литературно пространство битува и "Пети закон на роботиката", въведен от Никола Кесаровски, математик, журналист и автор, в едноименна новела през 1983 г. Петото правило на Кесаровски добавя към рамката на Азимов, че "Роботът е длъжен да знае, че е робот".

 

Няма лъжа, няма измама

 

Проф. Йемиелняк, цитиран от IEEE, изказва сериозно безпокойство по отношение на нарастващия брой измами, осъществени с помощта на изкуствен интелект, в световен мащаб. "Според доклада за интернет престъпленията на ФБР за 2024 г. киберзлодеянията, включващи дигитална манипулация и подвеждане с цел кражба на лични данни, са довели до загуби, надхвърлящи 10,3 млрд. щатски долара", информира експертът.

 

Дали изкуственият интелект скоро ще се "разхожда" масово и свободно сред нас, излизайки от онлайн пространството и навлизайки във физическото – "облечен" в хуманоидни или други типове роботи? Тогава вероятно опасенията от това да бъдем подведени, излъгани или обрани от машина ще се пренесат от интернет и социалните мрежи в бита и на работното ни място.

 

Дали ерата на хуманоидите в индустрията и производството, към която светът крачи с бързи темпове, няма да носи повече рискове отколкото ползи за бизнеса на компаниите? И ако AI роботите се създават "по образ и подобие на човека", значи ли това че лъжата и измамата със сигурност ще са присъщи и за тях (както са за хората), независимо дали почистват пода, палетизират, изследват космоса, оперират пациенти или генерират текст?

 

"Историите на Азимов показват, че дори роботите, които се опитват да спазват правилата, често откриват непредвидени последици от действията си. И все пак да накараме AI агентите поне да се опитват да се подчиняват на законите на роботиката би било добро начало", обобщава Йемиелняк.

 

Източник: IEEE; снимки: Dreamstime

Ключови думи: IEEE   Айзък Азимов   закони на роботиката   изкуствен интелект   ИИ   AI   роботи  

Област: Роботика