ШІ-чат-боти можуть розпоасюджувати пропаганду РФ

За останній час популярність чат-ботів, що працюють на базі штучного інтелекту, виросла стрімко. Проте, поряд з перевагами сучасних технологій, існує ризик розповсюдження пропаганди та дезінформації.

Аналіз навчальних даних штучного інтелекту

Технологічні гіганти часто приховують відомості про джерела, на яких "навчаються" їх штучні інтелекти. Тому The Washington Post вирішила проаналізувати набір даних C4 від Google, який містить вміст 15 мільйонів веб-сайтів, використаних для навчання таких ШІ, як Google T5 та Facebook LLaMA.

Категорії та джерела сайтів у наборі даних

У наборі даних домінували сайти з галузей журналістики, розваг, розробки програмного забезпечення, медицини та створення контенту. Також у набір потрапили сайти з патентами, безкоштовною онлайн-енциклопедією та цифровою бібліотекою за передплатою.

Найбільшу категорію (16% класифікованих токенів) становили веб-сайти для бізнесу та промисловості. Вони, зокрема, надають інвестиційні поради, дозволяють користувачам збирати кошти на творчі проекти та отримувати щомісячну плату з передплатників за ексклюзивний контент.

Занепокоєння щодо конфіденційності та авторських прав

Однак, такі сайти можуть надати ШІ доступ до ідей митців і маркетингових копій, що викликає занепокоєння, що технологія може копіювати цю роботу в пропозиціях для користувачів, що призведе до ще більших проблем з авторським правом.

Новини та медіа як потенційне джерело дезінформації

Категорія "Новини та медіа" посідає третє місце серед усіх категорій в наборі даних. Половина з 10 найпопулярніших сайтів загалом були новинними виданнями.

Втім, серед сайтів, що були використані для навчання ШІ, знайшлися такі, які не можна назвати надійними джерелами інформації. До них належать російський пропагандистський сайт RT, який просуває наративи Кремля; breitbart.com – відоме джерело ультраправих новин і думок; і vdare.com – антиімміграційний сайт, який пропагує дискрімінацію.