ПОСЕТЕТЕ ОЩЕ СПЕЦИАЛИЗИРАНИ ПОРТАЛИ ОТ ГРУПАТА
07.02.2025 | Оракулът предсказва: грози ни криза с отпадъците, ако индустрията не дава нов живот на старите роботи
07.02.2025 | Германия за първи път е домакин на Европейския форум по роботика
06.02.2025 | Simobotics завоюва и Наградата на германската икономика в България за 2024 г. в категорията за МСП
31.01.2025 | Кои са най-впечатляващите продукти в сегмента на роботиката според наградите на CES 2025
31.01.2025 | Секторът на роботиката и автоматизацията в Германия върви стремглаво надолу
Ако великият Айзък Азимов имаше как наистина да погледне напред в бъдещето на роботизираните системи и изкуствения интелект – чак до наши дни, вероятно би формулирал и четвърти закон на роботиката и сигурно би коригирал съдържанието на измисленото ръководство по роботехника от 2058 г., цитирано в разказите му като първоизточник на трите основни закона.
Все повече учени, писатели, изследователи и футуролози се обединяват около твърдението, че трите правила на писателя имат нужда от преразглеждане и допълване, предвид факта, че са широко възприемани като етична основа при разработката на днешните роботи. Скорошен пример е статия на един от най-популярните съвременни експерти в областта – Дариуш Йемиелняк.
Професор по мениджмънт в университета "Козмински" в Полша, заместник-председател на Полската академия на науките, член на борда на Wikimedia Foundation и на Европейския институт по иновации и технологии, Йемиелняк преразглежда трите закона на роботиката на Азимов и описва евентуалните предпоставки да се въведе четвърти такъв в контекста на посоките на развитие на изкуствения интелект през последните години.
Гледната му точка е поместена на уебсайта на Институтa на инженерите по електротехника и електроника (IEEE) и е категорична – необходима е още една формулировка на закон, тъй като AI платформите днес крият допълнителни рискове за човека, отвъд онези, които легендарният фантаст е предвидил през миналия век.
Айзък Азимов въвежда трите закона на роботехниката през далечната 1942 г. в разказа си "Хоро" ("Runaround"). Правилата, широко популяризирани при включването им в сборника "Аз, роботът", гласят:
По-късно авторът формулира и нулев закон – "Един робот не трябва да причинява вреда на човечеството или чрез бездействието си да допусне на човечеството да бъде причинена вреда", а към останалите правила се добавя условието "…ако това не противоречи на Нулевия закон".
Макар да произхождат от научната фантастика, тези норми са основа на дискусии относно етиката при роботизираните системи от десетилетия насам, посочва в скорошната си публикация проф. Дариуш Йемиелняк.
AI системите, които могат да бъдат считани за виртуални роботи или да служат като "съзнание" на физически такива, стават все по-съвършени и същевременно все по-масово използвани от хората. "Редица технолози намират рамката на Азимов за изключително важна и полезна при идентифицирането на потенциални рискове при взаимодействието между изкуствения интелект и човека", посочва експертът.
По думите му обаче съществуващите правила вече не са достатъчни. "Навлизаме в ера на безпрецедентна колаборация между човека и AI платформите, каквато Айзък Азимов няма как да си е представял. Светкавичният напредък в способностите на генеративния изкуствен интелект, особено при генерирането на текстове и изображения, създава предизвикателства, които са далеч отвъд първоначалните опасения от телесни повреди и неподчинение", добавя Йемиелняк.
В книгата си от 2019 г. "Съвместим с човека: изкуственият интелект и проблемът с контрола" изтъкнатият специалист по компютърни науки Стюарт Ръсел твърди, че способността на AI системите да мамят и подвеждат хората представлява основно съвременно предизвикателство за социалното доверие.
"Притесненията в тази посока са отразени в актуалните политически инициативи в областта на ИИ и по-специално в Законодателния акт за изкуствения интелект на Европейския съюз (AI Act), който залага изисквания за прозрачност при взаимодействието с изкуствен интелект и задължително разкриване и обозначаване на съдържание, генерирано от AI платформи. По времето на Азимов хората не са могли да си представят как изкуствени агенти могат да използват инструменти за онлайн комуникация и аватари, за да измамят хората", убеден е специалистът.
Ето защо Дариуш Йемиелняк предлага допълнение към рамката на Азимов, отразяваща актуалните рискове при общуване с интелигентни физически или виртуални роботи:
4. Роботът или изкуственият интелект не бива да заблуждава/подвежда хората, като се представя за човешко същество.
Интересно е да отбележим, че разсъждения, подобни на тези на световния експерт (споделени с публиката четвърт век след началото на новото хилядолетие), са поднесени на родните почитатели на научната фантастика още преди повече от 50 години – от Любен Дилов в романа "Пътят на Икар". Там писателят формулира свой "Четвърти закон на роботиката", който гласи: "Роботът е длъжен при всички обстоятелства да се легитимира като робот" и е свързан със "скъпо струващите увлечения на конструкторите да придават колкото се може по-човешки вид на психороботите", както пояснява самият писател.
В българското литературно пространство битува и "Пети закон на роботиката", въведен от Никола Кесаровски, математик, журналист и автор, в едноименна новела през 1983 г. Петото правило на Кесаровски добавя към рамката на Азимов, че "Роботът е длъжен да знае, че е робот".
Проф. Йемиелняк, цитиран от IEEE, изказва сериозно безпокойство по отношение на нарастващия брой измами, осъществени с помощта на изкуствен интелект, в световен мащаб. "Според доклада за интернет престъпленията на ФБР за 2024 г. киберзлодеянията, включващи дигитална манипулация и подвеждане с цел кражба на лични данни, са довели до загуби, надхвърлящи 10,3 млрд. щатски долара", информира експертът.
Дали изкуственият интелект скоро ще се "разхожда" масово и свободно сред нас, излизайки от онлайн пространството и навлизайки във физическото – "облечен" в хуманоидни или други типове роботи? Тогава вероятно опасенията от това да бъдем подведени, излъгани или обрани от машина ще се пренесат от интернет и социалните мрежи в бита и на работното ни място.
Дали ерата на хуманоидите в индустрията и производството, към която светът крачи с бързи темпове, няма да носи повече рискове отколкото ползи за бизнеса на компаниите? И ако AI роботите се създават "по образ и подобие на човека", значи ли това че лъжата и измамата със сигурност ще са присъщи и за тях (както са за хората), независимо дали почистват пода, палетизират, изследват космоса, оперират пациенти или генерират текст?
"Историите на Азимов показват, че дори роботите, които се опитват да спазват правилата, често откриват непредвидени последици от действията си. И все пак да накараме AI агентите поне да се опитват да се подчиняват на законите на роботиката би било добро начало", обобщава Йемиелняк.
Източник: IEEE; снимки: Dreamstime
Ключови думи: IEEE Айзък Азимов закони на роботиката изкуствен интелект ИИ AI роботи
Област: Роботика
Оракулът предсказва: грози ни криза с отпадъците, ако индустрията не дава нов живот на старите роботи
Германия за първи път е домакин на Европейския форум по роботика
Simobotics завоюва и Наградата на германската икономика в България за 2024 г. в категорията за МСП
Мисията ни е да направим роботизацията достъпна и ефективна за всеки бизнес, независимо от неговия мащаб
Кои са най-впечатляващите продукти в сегмента на роботиката според наградите на CES 2025
АБОНИРАЙТЕ СЕ за единствения у нас тематичен бюлетин НОВИНИТЕ ОТ РОБОТИКАТА на специализирания портал Robotics-Bulgaria.com. БЕЗПЛАТНО, професионално, всяка седмица на вашия мейл!
24.01.2025 | Кои ще са петте водещи тенденции в роботиката през 2025 г.
10.01.2025 | Директорът на Института по роботика беше вписан в Златната книга на Патентното ведомство за 2024 г.
13.12.2024 | Дадоха старт на кандидатстването за наградите IERA 2025
06.12.2024 | Всеки десети новоинсталиран робот в глобалната индустрия е колаборативен
29.11.2024 | Разработиха роботизирана система за обслужване на сателити в орбита
24.01.2025 | Кои ще са петте водещи тенденции в роботиката през 2025 г.
10.01.2025 | Директорът на Института по роботика беше вписан в Златната книга на Патентното ведомство за 2024 г.
13.12.2024 | Дадоха старт на кандидатстването за наградите IERA 2025
06.12.2024 | Всеки десети новоинсталиран робот в глобалната индустрия е колаборативен
29.11.2024 | Разработиха роботизирана система за обслужване на сателити в орбита
Специализиран портал от групата IndustryInfo.bg
Действителни собственици на настоящото издание са Теодора Стоянова Иванова и Любен Георгиев Георгиев
ПОЛИТИКА ЗА ПОВЕРИТЕЛНОСТ И ЗАЩИТА НА ЛИЧНИТЕ ДАННИ
Условия за ползване
Изисквания и условия за реклама
Карта на сайта
© Copyright 2010 - 2025 ТИ ЕЛ ЕЛ МЕДИА ООД. Всички права запазени.