#106 - Татьяна Шаврина: Риски AI (искусственного интеллекта)

Обсуждаем угрозы для выживания человечества, которые могут возникнуть из-за появления сильного искусственного интеллекта (AGI), с Татьяной Шавриной (Kali Novskaya) — разработчиком больших языковых моделей, а также энтузиастом опенсорса и открытого ИИ. Ссылки на ресурсы Татьяны Шавриной: - Telegram-канал Kali Novskaya — t.me/rybolos_channel - YouTube-серия «COPYLEFT» на канале «Рабкор» — youtube.com/watch?v=rJGjPEZpkOY&ab_channel=%D0%A0%D0%B0%D0%B1%D0%BA%D0%BE%D1%80 - Блог Татьяны на Хабре — habr.com/ru/users/Rybolos/posts/ Дополнительные материалы по теме: - Понятное объяснение принципов работы ChatGPT — youtube.com/watch?v=VVfFf_XW8zw - Базовое объяснение экзистенциальных рисков от ИИ — youtube.com/watch?v=fnVy03_XyBc - Дебаты по рискам ИИ с Иваном Ямщиковым и Арчетом — youtube.com/watch?v=CXK1nw-gc2M - Подборка интересных материалов по теме AI alignment для дальнейшего изучения — docs.google.com/document/d/1r83tPGPDrBtrt2_ZTiDEdoxoBiefbuuOvhWxV-OHDzk/edit?usp=sharing Посмотреть выпуск на YouTube: youtube.com/watch?v=KtUxkZMaMy0 Поддержи проект RationalAnswer и попади в титры: - Patreon (в валюте) – patreon.com/RationalAnswer - Boosty (в рублях) – boosty.to/RationalAnswer СОДЕРЖАНИЕ: 09:14 – В чем заключается экзистенциальный риск от AGI 20:53 – Три правила робототехники Азимова 31:29 – Как распознать сильный AGI 45:05 – AGI сам научится человеческой морали? 54:06 – Прогресс, регулирование AI и open-source 1:00:40 – Насколько ChatGPT близок к AGI 1:10:31 – Не рано ли решать проблему AI alignment? 1:16:37 – Позиции сторон в споре о рисках AGI 1:21:03 – Почему технари не могут договориться по рискам AGI 1:29:44 – Что можно сделать для снижения рисков AGI 1:41:39 – Ресурсы Татьяны