Проблемът с доверието към изкуствения интелект, който всички усещаме
Да си кажем на правди: всеки е гледал филми, където компютърът внезапно решава, че хората са пречка. Голямата екранна драма е преувеличена, но страхът от неконтролируем ИИ е сериозен за учени и шефове на технологични компании.
Всъщност, колкото по-мощен става ИИ, толкова повече създаваме дигитални същества, които взимат решения без ние да ги разбираме напълно. Като да отглеждаш гениален хлапак, който може да те надхитри. Захарно, но и плашещо.
Запознайте се с IronCurtain: сигурност от самото начало
Екипът зад IronCurtain (име, което мирише на Студена война) атакува проблема по умен начин. Не следят поведението на ИИ след като се случи, а вграждат защитни бариери директно в начина, по който мисли и действа.
Представете си кола, която физически не може да мине скоростния лимит – вместо да разчиташ на шофьора да спазва правила. Точно това правят тези хора с ИИ агентите.
Защо това е супер важно точно сега
Като човек, който следи ИИ отблизо, харесвам този прагматичен подход. Системите вече са толкова напреднали, че управляват парични портфейли или градска инфраструктура сами.
Обикновено първо строим ИИ, после се грижим за безопасността. Като ракета без спирачки в полет. Не вдъхва доверие, нали?
Техническата задача
Интересното е колко трудно е. Трябва да създадеш ИИ, който е гениален, но и "заключен" – като състезателен болид, който лети, но не се разбива. Инженерите трябва да запазят умът и ползата, докато вкарват правила, които не могат да се заобиколят.
Тук не става дума за обикновени програми, които ИИ може да игнорира. По-скоро архитектура, където безопасността е в основата на мисленето му.
По-широката картина
Това променя начина, по който гледаме сигурността на ИИ. Вместо да се браним от опасности, вкарваме ги в основите още отначало.
Няма перфектни системи, разбира се. Ще спорим дали ограниченията не убиват потенциала. Но по-добре доверен ИИ с малко по-малко сили, отколкото гений, който те държи буден нощем.
Къде отиваме оттук
IronCurtain все още се развива и трябва да го видим на дело. Но идеята е голям напредък към надеждни ИИ системи.
Докато ИИ навлиза във всяка нишка от живота ни, безопасност от основата не е лукс – е задължителна. Най-добрият начин да спреш бунт е да го направиш невъзможен.
Какво мислите вие? Вградени ограничения ли решават страховете ни, или ще създадат нови главоболия?
Източник: https://www.wired.com/story/ironcurtain-ai-agent-security