Как изкуственият интелект може да се използва за манипулиране на хора

През последните години изкуственият интелект (ИИ) се очертава като мощен инструмент, който може да се използва за различни цели, включително създаване на авторитарни култове и поробване на хора. Лидерите или вождовете на култове и диктаторите могат да го използват, за да наблюдават, манипулират и контролират хората, което евентуално би довело до тяхното подчинение.

Чрез събиране на данни за онлайн дейности на различните хора, включително тяхната история на търсене, публикации в социалните медии и модели на сърфиране, алгоритмите на изкуствения интелект са способни да създадат профил на предпочитанията и интересите на дадено лице. За огромно съжаление, тази информация може да се използва за създаване на индивидуално съобразено съдържание, което укрепва различни идеологии и манипулира хората да следват конкретни вярвания.

>>> 10 стратегии за манипулация чрез медиите според Ноам Чомски

Като заместник главен технологичен директор и старши учен в RAND Corporation, д-р Ранд Уолцман ръководи изследванията върху изкуствения интелект. Неговият 50-годишен опит в областта на ИИ го провокира да основе Информационната професионална асоциация и да споделя знания в социалните медии, описващи специфични техники, които в момента се използват за измами, манипулиране и индоктриниране на хора. Според него дигиталните среди (метавселената) с времето само ще увеличат силата си да влияят на хората – да гласуват или да вярват по определен начин – експоненциално усилвайки възможността за упражняване на неправомерно влияние върху човечеството.

Симулирани човешки взаимоотношения

Изкуственият интелект може също да се използва за създаване на виртуални асистенти, които симулират човешкото взаимодействие. Те са способни да имитират човешкия тон на гласа, изражението на лицето и езика на тялото, създавайки илюзия за лична връзка. Такива виртуални асистенти могат да бъдат използвани от лидери и диктатори за създаване на усещане за интимност с техните последователи, което може да доведе до чувство на емоционална привързаност и желание да се съобразяват с техните изисквания. По този начин е твърде вероятно човек да бъде емоционално измамен, като пожелателно си представи действителна човешка грижа.

Освен това изкуственият интелект може да се използва за създаване на фалшиви видеоклипове и изображения – силно реалистични симулации на хора, които казват или извършват неща, които всъщност не са се случвали. Лидерите на култове и диктаторите могат да се възползват от подобни фалшификати, с помощта на които да изглежда, че хората подкрепят тяхната идеология и действия. Подобна дейност е способна да посее объркване и недоверие, тъй като хората не са в състояние да разграничат реалността от лъжата.

Друг начин, по който изкуственият интелект може да се използва за поробване на хората, е чрез създаване на алгоритми, които контролират достъпа до информация. Чрез ограничаване на съдържанието, до което хората имат достъп онлайн, диктаторите биха си гарантирали, че техните последователи получават само информация, която укрепва техните вярвания.

>>> Тактиките, с които се опитват да ни манипулират

Прогнозиране и манипулиране на поведението на потребителите

Изкуственият интелект може да се прилага за създаване на прогнозни модели, които предвиждат поведението на хората. Чрез анализ на онлайн дейностите на хората и взаимодействията в социалните медии, алгоритмите на ИИ са способни да предскажат какво е най-вероятно да направи човек. Предсказващите модели могат да бъдат ефективно използвани за манипулиране на хората чрез предоставяне на стимули или наказания въз основа на прогнозирано поведение.

Създаване на системи за наблюдение, които следят поведението на хората в реално време, е още един от вариантите, за които може да се използва ИИ. Чрез анализиране на видео емисии и данни от сензори, алгоритмите са способни да открият и маркират поведение, което противоречи на идеологията на култа или което се възприема като несъгласие. Резултатът може да бъде създаването на култура на страх и подозрение, в която хората се страхуват да говорят или да се държат по начини, които могат да се възприемат като подривни.

От решаващо значение е хората да са наясно с опасностите от манипулация от ИИ и да се предприемат стъпки за предотвратяване на злоупотребата. Информираната общественост трябва да гарантира, че изкуственият интелект се разработва и използва етично и че са въведени предпазни мерки за защита на личния живот и свободата на хората. Законите за поверителност на данните трябва да бъдат наложени навсякъде. Правила трябва да бъдат разработени и одобрени от всички страни, заинтересовани от бизнеса и запазването на човешките права. Без такова споразумение авторитарните държави ще могат да блокират всички външни влияния и ще бъдат свободни да използват хищническо поведение спрямо всички общества.