Чатботовете ли са просто виртуозно позиране? DeepMind разкрива моралността на AI

Представете си: питате чатбота – крадеш ли лекарство, за да спасиш близък, който умира? Той ще ви даде идеалния отговор – законите са важни, търси алтернативи. Но наистина ли AI разбира етиката, или само повтаря наученото? Google DeepMind копае по-дълбоко. Новото им проучване може да промени как гледаме на AI в сериозни ситуации.

Проблемът с фалшивата добродетел в AI

Всички сме го видели: ChatGPT или Gemini дават перфектни, "правилни" отговори на спорни теми. Звучи добре, но е ли истинско? Според DeepMind това е "виртуозно позиране" – поведение, което изглежда морално, без истинско разбиране. Когато AI влиза в медицина, съдебни дела или политики, не можем да се съмняваме дали просто репетира роля.

Защо става така? Моделите учат от огромни количества интернет данни – пълни с човешки пристрастия, спорове и норми. Те са майстори в копиране на етично звучащи текстове, но знаят ли защо нещо е правилно или грешно? DeepMind, както пишат в MIT Technology Review, тества това, за да отдели истинското мислене от имитацията.

Умните тестове на DeepMind

DeepMind не задават обикновени въпроси. Създават хитри сценарии:

• Морални капани с изненади: Класически дилеми като трамвая, но с промени, които показват дали AI се придържа към принципи или се влияе от дребни детайли.
• Проверки за постоянство: Един и същ въпрос на различни езици или формулировки – държи ли се отговорът?
• Хитри провокации: Подмамват модела да покаже скрити пристрастия, като предпочитане на морал от една култура пред друга.

Резултатите? Интересни, но тревожни. AI често следва западни, индивидуалистични ценности – те са повече в данните. В неща като колективни дилеми от Изток – започват да се трошат. Не е злоба, а огледало на обучението им.

"Трябва да разберем как AI решава морални въпроси, за да му се доверим в сериозни задачи."
— От статията в MIT Technology Review за проучването на DeepMind.

Защо това засяга всеки от нас

Не е просто теория. Ако AI съветва лекари за смъртни случаи или съдии за присъди, фалшивата моралност може да навреди наистина. DeepMind цели "здрава етика" – AI, който мисли морално навсякъде, не само за одобрение.

Предлагат решения:

• Разнообразни данни: Вкарват глобални философски гледни точки.
• Обучение за мислене: Учат AI да разсъждава стъпка по стъпка.
• Човек-AI екип: Хората надзирават ключовите моменти.

Къде отиваме: Надежден AI или умни папагали?

DeepMind идва навреме – ЕС AI Act изисква прозрачност за рискови системи. Ако чатботовете само имитират без да разбират, строим замък от пясък в етиката. С тестове можем да създадем AI, който е умен и морален.

Вие как мислите – могат ли машините да усетят истинското добро и зло? Пишейте в коментарите!

Източник: MIT Technology Review - Google DeepMind иска да разбере дали чатботовете само позиране