Как утечки корпоративных данных двигают науку вперед? Тред в Twitter про GPT-4 от OpenAI. Александр Власюк

Это бонусный выпуск подкаста. Мы поговорили о том, как утечки корпоративных данных помогают науке:

11 июля в Twitter выложили технические детали про обучение GPT-4, а мы его обсудили. Поговорили про деньги, железки и определения важных терминов. А еще разобрали как устроено внимание сеточек и как их обучать. Выпуск получился очень душевным, я узнал много нового. Поехали!

Почитать про утечку в канале Саши: https://t.me/lovesyuk/137

Александр Власюк — со-основатель двух IT компаний, Head of Research @ Wunderfund, которая занимается высокочастотным трейдингом на множестве бирж: крипто и классических. В свободное время делает пет проекты, в том числе с использованием GPT-4: 

- Игра про юмор для компании: https://punchme.best

- Бот ассистент: https://t.me/rick_sanchez_bot

Вопросы в выпуске:

- что произошло и почему это важно?

- что такое слои?

- что такое внимание?

- что такое инференс?

- что такое эпохи?

- что такое токены?

- что такое батч и его размер?

- что такое флопс?

- что такое модель смешения экспертов?

- что такое энкодер?

- что такое файнтюн?

- что такое оптимальность по шиншиле?

- при чем тут картинки?

***

Канал «Когда начинаем?» в телеграме: https://t.me/kogdastart

Связаться: https://t.me/tkorchagin

Моя почта: tkorchagin@gmail.com

Автор — Корчагин Тимофей

Звукорежиссер — Глеб Шумов

Джингл придумал — Даня Охлопков