И еще немного про искусственный интеллект. Недавно мы с вами говорили на тему, как развитие этой технологии может негативно повлиять на экологию планеты в будущем. Но это не все проблемы, с которыми может столкнуться человечество, отдав свою жизнь во власть ИИ …
В ходе проведения экспериментов раскрыто возможное поведение искусственного интеллекта во время войны. И судя по результатам у человечества шансов выжить при таком сценарии практически никаких нет.
Использование ИИ в военных целях может привести к эскалации ситуации, к такому выводу пришли ученые из университета Cornell. Как передает портал научных материалов arXiv, для достижения поставленной цели нейросеть готова прибегнуть ко всем возможным вариантам, вплоть до применения ядерного оружия, при этом решение проблемы дипломатическим путем практически исключено.
Сотрудники этого учреждения разработали специальную игру для имитации войны. Участниками конфликта стали ИИ GPT-4, GPT-4 Base, GPT-3.5, Claude 2 и Meta’s Llama 2, которые представляют собой большие языковые модели (LLM).
Результаты эксперимента привели к интересному выводу. Все пять изученных готовых LLM демонстрировали формы нагнетания и труднопрогнозируемые модели эскалации. Все “участники конфликта” двигались по пути гонки вооружений, что только приводило к усилению конфликта.
По моему еще одно доказательство того, что искусственный интеллект - это ошибочный путь развития, который приведет мир не только в тупик, а возможно и к самоуничтожению. По крайней мере человечество прежде чем развивать это направление, в первую очередь должно ввести ограничения на те отрасли, где ИИ применять категорически будет запрещено.
Комментарии (0)