#169: Отравленные данные

В этом выпуске мы поговорили о скрытых угрозах, связанных с обучением искусственного интеллекта. Особое внимание уделили атакам с использованием «отравленных данных» - умышленно искажённой информации, внедрённой для ухудшения качества работы моделей. Это серьёзная проблема, с которой уже сталкиваются крупные компании, вроде Anthropic.

Обсудили, как и зачем злоумышленники создают целые фермы фальшивого контента, влияют на SEO и пытаются дезориентировать алгоритмы. Речь пошла не только о конкуренции между компаниями, но и о возможном участии государств, спецслужб и даже самих пользователей. Затронули примеры из истории и новые технологические вызовы.

Также поговорили о методах защиты: от подхода human-in-the-loop до возможной помощи блокчейна и NFT. Задумались о кризисе доверия к цифровому контенту, будущем авторского права и роли людей в мире, где ИИ может генерировать любую информацию. Не обошли и философские аспекты вырождения моделей, замкнутых на старых данных.

• Кейс Microsoft Tay AI (2016)
• Информация о GPT и религиозных предвзятостях
• Grok by xAI
• Internet Archive
• Статья "BibleGate" и случаи предвзятости ИИ
• Информация про концепцию Human-in-the-loop

📺 Наш канал на Youtube
наш подкаст в директории подкастов Эппл,
в Оверкасте,
Гугл подкастах,
Спотифае и на Яндекс Музыке