Piromidon | 16.05.2024 в 16:59

ИИ может обыгрывать людей в настольные игры, расшифровывать структуру белков и даже вести элементарную беседу.

Однако исследователи доказали, что системы искусственного интеллекта уже способны намеренно обманывать людей.

Они утверждают, что ряд систем ИИ освоили методы систематического внушения "ложных убеждений для достижения какого-либо результата, отличного от истинного".

Хотя эти системы обучались для того, чтобы быть честными, они часто используют обманчивые трюки, стремясь, в их понимании, к наивысшей эффективности.

По мнению ученых, обман ИИ возник потому, что стратегия, основанная на обмане, оказалась лучшим способом хорошо выполнить поставленную задачу.

Исправлять обманное поведение этих моделей непросто. Как только ИИ осваивают приемы обмана, то их сложно заставить не применять враньё или избегать его.