Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям?

Хорошо это или плохо, но история человечества в этом столетии плотно связана с созданием и поддержанием систем искусственного интеллекта. Как ученики волшебника, мы обнаружили, что являемся всего лишь одной движущей силой среди многих в мире, заполненном волшебными метлами. Как именно мы собираемся обучать машины? И чему? Брайан Кристиан исследует ключевой вызов эпохи ИИ: как научить машины понимать и разделять человеческие ценности. От алгоритмов, усиливающих предвзятость, до непредсказуемых последствий «умных» систем, книга показывает, что просто создать ИИ — недостаточно. Необходимо обеспечить его «согласование» с нашими намерениями. Кристиан предлагает увлекательный взгляд на историю машинного обучения и призывает к более гуманному подходу к разработке ИИ, где человеческое мнение играет центральную роль. Точки пересечения ИИ и человека: 1. Справедливость и равенство: невозможно одновременно учитывать разные критерии справедливости из-за существующих социальных различий. 2. Предупреждение рисков: новые технологии обучения и адаптации моделей должны сглаживать негативные последствия ИИ. 3. Прозрачность и объяснимость: необходимо понимать принципы работы ИИ, чтобы не попадать в опасные ситуации. 4. Коллективная ответственность: нужен междисциплинарный подход к созданию и регулированию ИИ, учитывающий мнения представителей разных областей знания.