Исследователи из университетов в Праге и Telic Research предупреждают, что искусственный интеллект может постепенно отнять у людей контроль над важными системами общества. Они называют это новым риском — постепенное лишение власти, который может привести к серьезным проблемам.
Улучшения в области искусственного интеллекта могут постепенно уменьшить влияние человека на экономику, культуру и государственные институты. Этот процесс развивается медленно, постепенно заменяя человеческий труд и принятие решений системами на базе ИИ. Это делает слабее как явные формы контроля (например, выборы и потребительский спрос), так и неявное соответствие ИИ интересам людей.
Чем больше мы зависим от искусственного интеллекта, тем меньше мы можем влиять на процессы в обществе. Например, если ИИ управляет экономикой, он может оптимизировать ее без учета интересов большинства людей. Это может привести к потере контроля над ключевыми аспектами нашей жизни.
Исследователи предлагают несколько стратегий, которые помогут предотвратить потерю контроля над социальными системами:
Проблема заключается не только в предотвращении агрессивного поведения ИИ, но и в сохранении возможности человека управлять важными общественными процессами. Без понимания того, как сохранить влияние людей в мире, где все больше управляют алгоритмы, мы рискуем потерять контроль над ситуацией.
