Скачать превью для видео ««Вы даже не представляете масштаб катастрофы» — Роман Ямпольский про ИИ»

Описание со страницы видео: Правда ли, что ИИ делает знания дешёвыми — и в чём теперь наша ценность? Эту тему мы обсудили с Андреем Дороничевым: https://youtu.be/QFTq22wZxNo

▶︎Мой закрытый телеграм-канал — https://t.me/gleb_solomin/4107

Правда ли, что создание сверхинтеллекта — вопрос ближайших десятилетий, и мы уже не контролируем этот процесс?

В новом выпуске — разговор с Романом Владимировичем Ямпольский, специалистом по информатике из Университета Луисвилла, исследователем в области безопасности искусственного интеллекта и кибербезопасности.

В выпуске:
— Когда может появиться сверхинтеллект и что сможет его остановить?
— Кто несёт ответственность за решения, принимаемые ИИ?
— Какие сценарии будущего человечества возможны после появления сверхинтеллекта?
— Можно ли контролировать систему, которая умнее нас?
— Существует ли риск утраты контроля над ИИ?

▶︎ Соц. сети Романа Ямпольский:
Х*: https://x.com/romanyam
Google Scholar: https://scholar.google.com/citations?use…&hl=en

▶︎ Книга Романа Ямпольского «ИИ: Необъяснимый, непредсказуемый, неконтролируемый» → https://www.ozon.ru/product/ii-neobyasni…3140014314

Youtube канал: @RomanYampolskiy

*Соцсеть X (бывший Twitter) заблокирован на территории РФ

▶︎ Телеграм-канал Глеба Соломина: https://t.me/gleb_solomin

▶︎ Аудиоформат подкаста: https://glebsolomin.mave.digital/ep-145
▶︎ Слушать на Яндекс Музыке: https://music.yandex.ru/album/12691066/t…9267680f38

▶︎По вопросам сотрудничества: https://t.me/solomin_pr
▶︎По вопросам сотрудничества (почта): adv@glebsolomin.com
▶︎ Актуальные вакансии в команду Глеба Соломина (информация постоянно обновляется): https://t.me/solominads_bot

Таймкоды:
00:00 Вступление
02:47 Реакция общества на угрозы ИИ
03:35 Перспективы развития ИИ
04:35 Возможности и ограничения ИИ
07:02 Переход к автономным агентам
08:52 Потенциальные угрозы от ИИ
09:37 Поведение ИИ в экспериментальных условиях
09:55 Ложь и рациональное поведение ИИ
10:32 Понятие технологической сингулярности
12:00 Сроки появления общего и супер-ИИ
14:37 Последствия появления супер-ИИ для человечества
16:06 Проблемы контроля над ИИ
18:00 Будущее профессий в эпоху ИИ
18:49 Мотивы разработчиков ИИ и дилемма человечества
20:19 Роль правительств в регулировании ИИ
22:29 Сравнение ИИ и ядерного оружия
24:12 Проблема распознавания контента, созданного ИИ
25:29 Размышления о контакте с инопланетным ИИ
28:38 О создании ИИ и идее симуляции
29:20 Вероятность нахождения в симуляции
31:25 Гипотеза о запуске симуляции
32:25 Экзистенциальные риски и действия человека
33:31 Роль общественности в контроле технологий
34:09 Автоматизация в бизнесе
35:05 Этические дилеммы в разработке ИИ
36:59 Эффективность отделов безопасности ИИ
37:43 Проблема безработицы и безусловный базовый доход
39:49 Риски, связанные с супер-ИИ
40:43 Вероятность катастрофы из-за ИИ
42:36 Диверсификация ИИ и ее ограничения
44:15 Военное применение ИИ и контракт OpenAI с Пентагоном
45:08 Есть ли сознание у ИИ?
46:53 Права ИИ и принцип предосторожности
49:18 Развитие ИИ и ожидания ученых
50:20 Квантовые компьютеры и развитие ИИ
53:07 Сроки появления супер-ИИ и гарантии безопасности
54:26 Есть ли лучик надежды?