Използване на изкуствен интелект за защита срещу разпространението на дезинформация

Всеобхватният проблем с дезинформацията онлайн подтиква към иновативни решения, като изкуственият интелект (AI) се очертава като потенциален фактор, който променя играта. Тъй като дълбоките фалшификати, генерирани от AI, повишават залозите за гласови и видео измами, експертите проучват начини да използват AI и блокчейн технологията за идентифициране и борба с разпространението на фалшиви новини. Този нов подход се стреми да даде приоритет на борбата с дезинформацията в области, където тя представлява най-голяма потенциална вреда, като цели да даде възможност на създателите на съдържание да се справят ефективно със заплахата от дезинформация.

Нека изясним дезинформацията срещу дезинформацията. Дезинформацията е невярна информация, която се разпространява, независимо дали има намерение за подвеждане, докато дезинформация означава „фалшива информация относно военната сила или планове на дадена държава, разпространена от правителство или разузнавателна агенция във враждебен акт на тактическа политическа подривна дейност“. Използва се и за означаване на „умишлено подвеждаща или пристрастна информация; манипулиран разказ или факти; пропаганда.”

Въпреки че може да имаме инструментите за разрешаване на дезинформация, може да не сме в състояние да противодействаме на дезинформация или да бъдем обвинени в държавна измяна. Дезинформацията включва бюджет на военното правителство, покрива се от NDA и се пази в тайна от съображения за сигурност. Получаването на подобна информация може да се приеме като шпионаж или неуместна чистосърдечност, което може да коства работата ви в правителството.

Въздействието на дезинформацията и необходимостта от противодействие

Вредните последици от дезинформацията налагат намирането на ефективни стратегии за нейното ограничаване. Размиващата се граница между истинска и изфабрикувана информация, засилена от бързото разпространение на фалшиви новини в социалните медийни платформи, може да доведе до погрешни решения и резки реакции от страна на обществеността.

Manjeet Rege, директор на Центъра за приложен изкуствен интелект към университета Сейнт Томас, подчертава, че точната информация е ключова за вземането на информирани решения. Той посочва, че скоростта, с която фалшивите новини могат да станат вирусни, налага незабавни действия за противодействие на тяхното влияние.

Двойната роля на AI в създаването и откриването на фалшиви новини

Скорошни изследвания подчертават потенциала на системите за машинно обучение при измерване на потенциалната вреда от съдържанието и определяне на най-явните нарушители. Например, по време на разгара на пандемията от COVID-19, използването на AI идентифицира случаи на фалшиви новини, насърчаващи непроверени лечения вместо ваксини.

Thi Tran, професор по информационни системи за управление, водещ това изследване, подчертава, че заплахата от фалшиви новини е най-тревожна, когато причиняват осезаема вреда на читателите или публиката. Идентифицирането на области, където е вероятно дезинформацията да бъде най-вредна, позволява целенасочен подход към усилията за смекчаване.

Развиващата се усъвършенстваност на ИИ и опасностите от дълбоко фалшифициране

Тъй като AI технологията става все по-сложна, разграничаването между истинско и фалшиво съдържание става все по-голямо предизвикателство. Генерираните от AI дълбоки фалшификати, които включват фалшиво аудио и видео, представляват сериозни заплахи. Sameer Hajarnis, главен продуктов директор на компанията за дигитална проверка OneSpan, подчертава опасностите от дълбоки езера в гласовите и видео фишинг измами, като отбелязва, че престъпниците, използващи тези тактики, нарастват.

Забележителен инцидент включва дълбоко фалшиво видео, което изглежда одобрява възможност за инвестиция от виден защитник на потребителските финанси Мартин Луис, приписван на Илон Мъск. Това видео, по-късно разкрито като генериран от AI deepfake, подчертава силата на AI в поддържането на измама.

Множество подходи за справяне с дезинформацията

Докато подходът на университета Бингамтън използва машинно обучение за оценка на потенциалната вреда на съдържанието, AI също така притежава способността да открива автентичността. Някои генерирано от AI съдържание може да изглежда много убедително за хората, но може лесно да бъде идентифицирано като фалшиво от AI модели.

Криптографията предлага още един път в борбата срещу фалшивите новини. Yale Fox, експерт по киберсигурност и член на IEEE, предлага използването на криптография за предоставяне на доказателство за личността. Кодирането на видеоклипове с публични ключове позволява лесна проверка на автентичността. Този подход елиминира необходимостта от сложни AI алгоритми и може да работи на различни платформи и устройства.

Справянето с фалшивите новини изисква многостранен подход, включващ както технологични решения, така и по-широки културни промени. Субраманиам Винсент, директор на програмата за журналистика и медийна етика в Центъра за приложна етика Markkula в университета Санта Клара, подчертава необходимостта от сътрудничество между играчите в AI индустрията и новинарските медийни компании. Освен това, подхранването на демократичните ценности в политиката и изборите е от съществено значение за създаването на среда, в която инструментите на ИИ могат ефективно да противодействат на разпространението на фалшиви новини.

AI наистина има значително влияние, но трябва да работи в тандем с други фактори, за да се бори със сложните предизвикателства, породени от дезинформацията. Докато битката за демокрация бушува пред лицето на дезинформацията, ИИ се очертава като мощен инструмент, макар и такъв, който изисква всеобхватен подход, за да бъде наистина ефективен.

Публикацията на Роберт Петров: "Използване на изкуствен интелект за защита срещу разпространението на дезинформация" е написана за KriptoNovini.bg

---

Новини от днес

---

Свързани новини

Председателят на SEC Гари Генслър се застъпва за по-широко използване на изкуствен интелект за наблюдение на пазара

Генерирани от изкуствен интелект изображения на насилие над деца усложняват усилията за защита на детето, предупреждава NCA

Онлайн лагерите за обучение с изкуствен интелект процъфтяват, тъй като търсенето на умения за изкуствен интелект расте рязко

Защо детекторите за писане с изкуствен интелект намират конституцията на САЩ, написана от инструмент с изкуствен интелект

Още новини с автор: Роберт Петров