Сам Альтман: плохие последствия неизбежны, но выгоды ИИ перевешивают
Генеральный директор OpenAI Сам Альтман заявил, что общество должно смириться с хакерскими атаками, мошенничеством и другими негативными эффектами, потому что выгоды от ИИ будут в разы больше.
Что сказал Сам Альтман?
В интервью для The Verge CEO OpenAI Сам Альтман подчеркнул, что развитие искусственного интеллекта неизбежно сопровождается «плохими вещами» – от кибератак и мошенничества до более сложных социальных проблем. По его словам, «мир должен принять, что некоторые плохие вещи произойдут, но выгоды от ИИ будут в порядках величины больше».
«Люди смогут делать триллионы раз больше полезных дел, чем сейчас, и это стоит того, чтобы мир смирился с некоторыми негативными последствиями», – заявил Альтман.
Какие «плохие вещи» он имеет в виду?
- Хакерские атаки: ИИ‑модели могут быть использованы для автоматизации фишинга и создания более убедительных фейковых сообщений.
- Мошенничество: Генеративные модели упрощают создание поддельных документов, аудио‑ и видеоматериалов.
- Этические риски: Возможные предвзятости, усиление цифрового неравенства и усиление контроля со стороны крупных технологических компаний.
Почему, по мнению Альтмана, это оправдано?
Он сравнивает потенциальный вред с историческими технологическими прорывами, когда новые инструменты сначала вызывали опасения, но в итоге принесли огромную пользу. По его словам, масштабные позитивные эффекты – ускорение научных открытий, повышение продуктивности и новые возможности для творчества – «переполнят любые негативные последствия».
Что дальше?
OpenAI уже объявила о планах усилить безопасность моделей, инвестировать в исследование «выравнивания целей» и развивать инструменты для обнаружения злоупотреблений. Однако Альтман признает, что полностью избавиться от рисков невозможно.
Источник: The Verge – Sam Altman says ‘some bad things’ will happen, but AI is totally worth it
Для разработчиков и студентов это сигнал к усиленному вниманию к вопросам безопасности и этики. При работе с моделями стоит внедрять механизмы обнаружения злоупотреблений и тестировать на предвзятость. Плюс – открываются новые возможности для создания полезных продуктов, если правильно управлять рисками.
