Эпизод с Эсбеном Краном
Эсбен Кран присоединяется к подкасту, чтобы обсудить, почему безопасность генерального искусственного интеллекта (AGI) требует большего, чем традиционная кибербезопасность. Он исследует новые линии атаки, адаптивное вредоносное ПО и социальные изменения, необходимые для создания устойчивых защит.
Краткое содержание эпизода
- 00:00 – Введение и обзор
- 01:13 – Безопасность AGI против традиционной кибербезопасности
- 02:36 – Перестройка социальной инфраструктуры для встроенной безопасности
- 03:33 – Sentware: адаптивное, самоулучшающееся вредоносное ПО
- 04:59 – Новые линии атаки
- 05:38 – Социальные медиа как несоответствующий AI
- 06:46 – Личностные и общественные защиты
- 09:13 – Почему частные компании недостаточно инвестируют в безопасность
- 13:01 – Безопасность как основа для любого развертывания AI
- 14:15 – Контроль без государства слежки
- 17:19 – Протоколы для безопасной коммуникации агентов
- 20:25 – Гипотеза дорогого интернета
- 23:30 – Распределенная безопасность для компаний и правительств
- 28:20 – Пример «лабиринта агентов» от Cloudflare
- 31:08 – Позитивное видение распределенной безопасности
- 33:49 – Человеческая ценность в условиях автоматизации труда
- 41:19 – Кодирование законодательств для машин: контракты и исполнение
- 44:36 – DarkBench: обнаружение манипулятивного поведения LLM
- 55:22 – Конечная игра AGI: стандартный путь против разработанного будущего
- 57:37 – Мощный инструмент AI
- 01:09:55 – Риск быстрого взлета
- 01:16:09 – Реалистичный оптимизм
Основные темы обсуждения
В ходе подкаста Эсбен Кран поднимает важные вопросы, касающиеся безопасности AGI:
- Безопасность AGI: Эсбен объясняет, как AGI требует другого подхода к кибербезопасности по сравнению с традиционными методами.
- Адаптивное вредоносное ПО: Обсуждение саморазвивающегося вредоносного ПО, такого как Sentware, представляет значительную угрозу.
- Новые линии атаки: Эсбен рассматривает социальные медиа как потенциальные поверхности для нападений.
Инвестиции в безопасность
Почему частные компании часто недостаточно инвестируют в безопасность, важно учитывать в контексте AGI.
Протоколы для безопасной связи
Устанавливаются новые стандарты для обеспечения безопасной коммуникации между агентами, что крайне важно для защиты AGI.
Заключение
На конце подкаста поднимается вопрос о будущем AGI, о том, как это может повлиять на труд и общество. Эсбен Кран выражает реалистичный оптимизм для современного мира, где AGI играет все большую роль.
Узнайте больше о работе Эсбена здесь.