В этом выпуске мы поговорили о скрытых угрозах, связанных с обучением искусственного интеллекта. Особое внимание уделили атакам с использованием «отравленных данных» - умышленно искажённой информации, внедрённой для ухудшения качества работы моделей. Это серьёзная проблема, с которой уже сталкиваются крупные компании, вроде Anthropic.
Обсудили, как и зачем злоумышленники создают целые фермы фальшивого контента, влияют на SEO и пытаются дезориентировать алгоритмы. Речь пошла не только о конкуренции между компаниями, но и о возможном участии государств, спецслужб и даже самих пользователей. Затронули примеры из истории и новые технологические вызовы.
Также поговорили о методах защиты: от подхода human-in-the-loop до возможной помощи блокчейна и NFT. Задумались о кризисе доверия к цифровому контенту, будущем авторского права и роли людей в мире, где ИИ может генерировать любую информацию. Не обошли и философские аспекты вырождения моделей, замкнутых на старых данных.
- Кейс Microsoft Tay AI (2016)
- Информация о GPT и религиозных предвзятостях
- Grok by xAI
- Internet Archive
- Статья "BibleGate" и случаи предвзятости ИИ
- Информация про концепцию Human-in-the-loop
📺 Наш канал на Youtube
наш подкаст в директории подкастов Эппл,
в Оверкасте,
Гугл подкастах,
Спотифае и на Яндекс Музыке
資訊
- 節目
- 頻率每週更新兩次
- 發佈時間2025年9月20日 上午12:54 [UTC]
- 長度27 分鐘
- 年齡分級兒少適宜