Разработчики ИИ боятся, что скоро перестанут понимать, как он работает. Нейросети выйдут из-под контроля?

Сотрудники OpenAI, Google, Meta и других компаний, которые разрабатывают искусственный интеллект, предупредили, что скоро перестанут понимать ИИ. Сотрудники IT-гигантов выпустили совместный доклад, в котором отметили: если не соблюдать меры предосторожности, то цепочки рассуждений нейросетей могут стать недостижимыми для человеческого понимания. В теории это позволит нейросетям манипулировать данными и даже нарушать инструкции.

Стоит ли нам опасаться саморазвития нейросетей? Послушайте аудиоверсию материала о ближайшем будущем искусственного интеллекта. Прочитать текст можно здесь.

📻 «Радио Медуза» есть в нашем приложении (теперь оно еще лучше обходит блокировки), на подкаст-платформах и на ютьюбе (там же можно безопасно нас поддержать, если вы не в России).

Как поддержать нашу редакцию — даже если вы в России и вам очень страшно