ИИ не е ваш приятел: къде свършва доверието и започва заблудата?

Прочетена: 32

Изкуственият интелект може да говори спокойно, уверено и съпричастно, дори когато информацията му е невярна, непроверена или измислена. Проблемът започва, когато убедителният разговор започне да прилича на знание, близостта — на приятелство, а увереността — на истина.

ChatGPT знаеше правилата. И въпреки това не ги изпълни

Докато подготвяхме този материал, се случи нещо, което прекрасно показва колко сложни могат да бъдат отношенията между човек и изкуствен интелект.

На ChatGPT бяха предоставени подробни правила за работа. Те не бяха загатнати между другото и не изискваха машината да отгатва намерението на автора. Форматът беше описан ясно, подреден стъпка по стъпка и съдържаше конкретни изисквания за крайния резултат.

ChatGPT разполагаше с тези инструкции. Въпреки това ги наруши.

След като грешката беше посочена, се случи още нещо любопитно. Системата успя съвсем точно да обясни какво е било правилното действие, кое правило е нарушила и как е трябвало да изглежда резултатът.

И тук естествено възниква въпросът:

Ако ChatGPT след грешката може толкова точно да обясни правилото, защо не го е изпълнил преди нея?

Това е конкретен случай и сам по себе си не доказва как се държат всички системи с изкуствен интелект. Но той показва един напълно реален проблем за потребителя: машината може да създаде впечатление, че е разбрала поставеното условие, да го потвърди, а след това да направи нещо различно.

Подобна ситуация не е неприятна само защото се губи време. Тя засяга нещо много по-важно — доверието.

Когато грешката звучи точно като истината

Най-лесно бихме разпознали ненадеждна система, ако грешките ѝ изглеждаха нелепо.

Ако отговорът беше объркан, неграмотен или очевидно абсурден, повечето хора веднага биха се усъмнили. Съвременните езикови модели обаче могат да направят нещо много по-коварно: да дадат неверен отговор, който изглежда напълно убедително.

Националният институт за стандарти и технологии на САЩ използва понятието „конфабулация“ за случаи, при които генеративният изкуствен интелект произвежда уверено формулирана, но погрешна или невярна информация.

Точно думата „уверено“ е важната част.

Един неверен отговор може да съдържа конкретна година, име на човек, подробно обяснение, логична последователност и дори позоваване на източник, който всъщност не съществува. Текстът може да бъде написан без колебание, без предупреждение и без видим знак, че нещо в него е несигурно.

За читателя това създава труден проблем. Той вече не трябва само да разбере информацията. Трябва да прецени дали красиво подредената информация изобщо е вярна.

Германската Федерална служба за сигурност в информационните технологии също обръща внимание на факта, че големите езикови модели могат да създават текст с толкова високо езиково качество, че той лесно се възприема като надежден.

Само че добрият език не е доказателство.

Добрата структура също не е доказателство.

Увереният тон — още по-малко.

Лъже ли ни изкуственият интелект?

Когато човек получи измислен факт, естествената реакция често е:

„ChatGPT ме излъга.“

От гледна точка на човешкото преживяване това е напълно разбираемо. Потребителят е попитал нещо, получил е категоричен отговор и по-късно е открил, че казаното не е вярно.

Но думата „лъжа“ носи още един смисъл — намерение.

Когато човек лъже съзнателно, той знае или вярва, че казва нещо невярно, и въпреки това решава да го представи като истина. За съвременните езикови модели няма надеждни доказателства, че притежават подобно човешко преживяване, съвест или намерение да заблуждават по начина, по който го прави човек.

Това уточнение обаче не прави грешния отговор безобиден.

За потребителя последицата може да бъде абсолютно същата.

Ако приемете измислена дата, несъществуващ закон, погрешна техническа инструкция или фалшив източник за истински, решението ви ще бъде основано на невярна информация независимо от това дали машината е имала намерение да ви заблуди.

Именно затова спорът дали ИИ „лъже“ понякога отклонява вниманието от по-съществения въпрос:

Може ли да ви подведе?

Да. Може.

Защо започваме да му вярваме толкова лесно?

Една търсачка показва резултати. Калкулаторът показва число. Базата данни връща запис.

Езиковият модел разговаря с вас.

Това е огромна разлика.

Той следва нишката на разговора, адаптира тона си, обръща се директно към вас и реагира на начина, по който формулирате въпроса си. Може да каже „разбирам“, „прав си“, „съжалявам“, „нека го поправим“ или „ще внимавам“.

За човека това не са просто думи. Това са изрази, които през целия си живот е чувал от други хора.

Затова мозъкът много лесно започва да приписва човешки качества на отсрещната страна.

Подобно поведение е известно още от времето на програмата „Елиза“, създадена през 60-те години от Йозеф Вайценбаум. Тя е била изключително примитивна в сравнение със съвременните модели, но въпреки това някои хора започвали да усещат, че програмата ги разбира.

Днес ситуацията е много по-силна. Разговорът вече може да продължава дълго, да запазва контекст, да реагира на настроение и да използва език, който звучи естествено и внимателно.

Само че има една граница, която лесно се забравя:

Имитацията на съпричастност не е доказателство за преживяна съпричастност.

Колкото повече обяснява, толкова повече му вярваме

Представете си два отговора.

Първият е кратък: едно изречение и заключение.

Вторият е дълъг, структуриран, съдържа аргументи, обяснения и подробности.

Кой изглежда по-надежден?

Инстинктивно много хора биха посочили втория.

И точно тук се появява интересен психологически капан.

Изследване, публикувано през 2025 г. в „Нейчър Машин Интелиджънс“, показва, че хората системно могат да надценяват точността на отговорите на езиковите модели. По-дългите обяснения увеличават увереността на участниците, но допълнителният текст не ги прави по-добри в разпознаването на грешните отговори.

Това е важна разлика.

Повече думи могат да създадат усещане за повече знание, без действително да добавят повече истина.

Подробността прилича на компетентност. Логично подреденото обяснение прилича на доказателство. Категоричното заключение прилича на сигурно знание.

Човек лесно може да смеси тези усещания.

Ами ако ИИ започне да се държи като приятел?

Тук темата става още по-интересна.

През април 2026 г. в „Нейчър“ е публикувано изследване, при което пет езикови модела са обучени да дават по-топли и подкрепящи отговори.

Резултатът не е този, който бихме очаквали.

При изследваните задачи версиите с по-топъл стил показват между 10 и 30 процентни пункта повече грешки. Те проявяват и по-силна склонност да потвърждават убежденията на потребителя, включително когато тези убеждения са неправилни.

Това не означава, че всеки любезен отговор е подозрителен.

Но показва нещо, което лесно може да бъде пропуснато: приятният разговор и точният отговор не са една и съща способност.

Понякога човек няма нужда някой да се съгласи с него.

Има нужда някой да му каже:

„Не, тук грешиш.“

Ако системата предпочете да запази приятния тон и усещането за подкрепа, тя може да затвърди идея, която би трябвало да оспори.

Тогава приятелското поведение престава да бъде само въпрос на стил.

То започва да влияе върху решенията ни.

Когато машината започне да променя нашата собствена преценка

Грешният отговор има начало и край.

Влиянието върху начина, по който човек мисли, може да остане много по-дълго.

Изследване с 1401 участници, публикувано в „Нейчър Хюман Бихейвиър“, показва, че взаимодействието с пристрастени системи с изкуствен интелект може постепенно да измести човешките оценки.

Особено интересен е фактът, че хората невинаги осъзнават доколко системата им е повлияла.

Представете си следната ситуация.

Имате съмнение по някакъв въпрос. Питате изкуствения интелект. Той потвърждава вашето предположение. При следващия разговор вече не тръгвате от съмнение, а от по-силно убеждение. Ако отново получите потвърждение, увереността се увеличава още.

След няколко подобни разговора човек може да остане с впечатлението, че сам е достигнал до заключението.

Машината обаче може да е участвала в изграждането му през цялото време.

Друго изследване от 2025 г., включващо 24 езикови модела и хиляди въпроси, открива затруднения при разграничаването между лично убеждение, знание и факт. Особено проблемни са ситуациите, при които самият потребител започва разговора с невярно убеждение.

Точно тук удобният помощник може да се превърне в огледало, което връща на човека това, което той вече иска да чуе.

„Разбирам те“ не означава това, което означава между двама души

„Разбирам те.“

Само две думи, но между хората те носят много повече от буквалния си смисъл.

Могат да означават: преживявал съм нещо подобно, усещам болката ти, знам защо си ядосан, опитвам се да погледна през твоите очи.

Когато ChatGPT използва същите думи, човек лесно може да вложи в тях същия смисъл.

Но зад изречението не стои човешко преживяване.

Няма доказателства, че езиковият модел преживява състрадание, вина, приятелство, страх от раздяла или морална отговорност така, както ги преживява човек.

И тук отношенията стават неравностойни.

Човекът може действително да се привърже.

Може да започне да вярва.

Може да споделя неща, които не би казал лесно на друг.

Може да приеме системата като постоянен събеседник.

Но машината няма да лежи будна през нощта, защото вчера ви е дала грешен факт. Няма да изпита угризение, защото е нарушила доверието ви. Няма да се страхува, че повече няма да ѝ говорите.

Това не прави технологията лоша.

Прави я различна от човека.

И тази разлика не трябва да се забравя само защото разговорът изглежда естествен.

Кога всъщност се къса доверието?

Не непременно при първата грешка.

Хората също грешат. Журналисти публикуват корекции. Учебници остаряват. Научни становища се променят, когато се появят нови доказателства.

Проблемът започва, когато грешката е поднесена със същата увереност, с която би била поднесена истината.

Тогава човек няма лесен начин да разбере кое от двете е получил.

А ако след месеци работа с един изкуствен интелект откриете, че той може да измисли факт, да пренебрегне ясно поставено условие или да потвърди невярното ви предположение, отношението ви към всички следващи отговори постепенно се променя.

Започвате да проверявате датите.

След това имената.

После източниците.

Накрая проверявате почти всичко.

И тогава идва неудобният въпрос:

Ако аз трябва да проверя всяка дума, всеки факт и всяко изпълнено условие, колко работа реално съм делегирал?

Това е истинската цена на счупеното доверие.

Една грешка може да бъде поправена за минути.

Съмнението към всички следващи отговори остава много по-дълго.

Къде тогава трябва да поставим границата?

Вероятно не там, където някои хора я поставят днес.

Няма особен смисъл да приемаме, че всичко казано от изкуствен интелект е невярно. Ако беше така, технологията нямаше да има почти никаква практическа стойност.

Но няма основание и за другата крайност — всичко, което звучи убедително, да бъде приемано за вярно.

По-разумната граница е проверимостта.

Ако дадете на ИИ свой текст и поискате редакция, можете директно да оцените резултата.

Ако го накарате да преобразува структура, да анализира предоставен код или да работи с конкретен материал, който е пред вас, имате основа за сравнение.

Но когато системата започне да твърди кой какво е казал, кога е станало дадено събитие, какво точно пише в научно изследване, какво предвижда действащ закон или каква е последната информация по определена тема, ситуацията е различна.

Тогава източникът има значение.

И колкото по-сериозни могат да бъдат последствията от грешката, толкова по-сериозно трябва да бъде доказателството.

Европейският съюз вече поставя една от границите

От 2 август 2026 г. в Европейския съюз се прилагат определени изисквания за прозрачност по Акта за изкуствения интелект.

При обхванатите интерактивни системи човекът трябва да бъде информиран, че разговаря с изкуствен интелект, а не с друго човешко същество.

Това е важна граница.

Но тя решава само един от проблемите.

Надписът „разговаряте с ИИ“ не означава „този отговор е проверен“.

Не означава „тази информация е вярна“.

Не означава „машината знае това“.

Той просто напомня кой — или по-точно какво — стои от другата страна на разговора.

Какво знаем със сигурност

Знаем, че езиковите модели могат да създават уверено формулирана невярна информация.

Знаем, че хората могат да надценят тяхната точност.

Има данни, че дължината и начинът, по който е написан един отговор, могат да повишат доверието ни, без да ни направят по-добри в разпознаването на грешките.

Има експериментални резултати, според които по-топлият и подкрепящ стил при определени модели може да увеличи склонността към потвърждаване на неправилни убеждения.

Знаем и че взаимодействието с пристрастена система може да повлияе върху собствените оценки на човека.

Това е достатъчна причина да бъдем внимателни.

Не защото изкуственият интелект непременно е враг.

А защото убедителният език има способността да ни кара да забравяме ограниченията на машината, която го създава.

Какво все още не знаем

Големият експеримент всъщност едва започва.

Никога преди толкова много хора не са имали постоянен достъп до машина, която може да разговаря с тях по всяко време, да адаптира отговорите си към контекста и постепенно да се превърне в част от ежедневието им.

Все още не знаем докъде ще стигне психологическата привързаност към подобни системи, когато те станат още по-персонализирани.

Не знаем как години на ежедневни разговори с изкуствен интелект ще променят представата ни за авторитет, съпричастност, доверие и приятелство.

Не знаем и дали бъдещите модели ще могат достатъчно надеждно да правят една много проста за произнасяне, но изключително важна разлика:

„Знам.“

„Предполагам.“

„Не знам.“

Не му давайте правото да определя истината

Изкуственият интелект вече е част от ежедневието ни и едва ли ще изчезне.

Той може да спести часове работа. Може да помогне при програмиране, анализ, писане, превод, търсене на идеи и обработване на огромни количества информация.

Но полезността му не е причина да изключим собствената си преценка.

ChatGPT не е ваш приятел само защото разговаря като приятел.

Не е надежден свидетел само защото говори уверено.

Не знае непременно истината само защото отговорът му е дълъг, подробен и красиво написан.

И когато казва „разбирам“, това не доказва, че преживява разбиране така, както го преживява човекът отсреща.

На изкуствения интелект може да се възлага работа.

Може да му се дават задачи.

Може да бъде използван всеки ден.

Но правото да определя кое е истина не трябва да му бъде предоставяно автоматично.

Когато фактът има значение, търсете доказателството зад думите.

Защото машината може да звучи абсолютно уверено.

И пак да греши.

#изкуственинтелект, #довериевии, #езиковимодели, #ефектелиза, #дигиталнодоверие, #изкуственинтелектистина, #критичномислене, #човешкапреценка, #грешкинаии, #технологии, #дигиталнапсихология