Технологии и наука Ночной кошмар юристов: ученые выяснили, что люди предпочитают советы ИИ их рекомендациям
Когда речь идет о принятии важных решений, особенно тех, которые имеют юридические последствия, большинство людей полагают, что они доверятся человеку, а не машине. Однако под поверхностью растущей интеграции искусственного интеллекта происходит тихий сдвиг, который предполагает, что многие люди предпочитают обращаться за помощью к ИИ.
Related video
Об этом пишет The Conversation.
Новое исследование, проведенное в ходе трех экспериментов с участием 288 человек, показало, что люди более склонны доверять юридическим советам, если они исходят от ИИ, а не от настоящих юристов, при условии, что они не знают, кто является автором информации.
У Фокус.Технологии появился свой Telegram-канал. Подписывайтесь, чтобы не пропускать самые свежие и увлекательные новости из мира науки!
Хотя оно еще не прошло рецензирование, исследование ученых уже вызывает серьезную озабоченность тем, как публика ориентируется в контенте, созданном искусственным интеллектом. Когда участники не знали об источнике информации, они отдавали явное предпочтение советам ИИ; даже когда им сообщали об источнике, многие были готовы следовать советам чатбота с той же готовностью, что и советам человека.
Важно Квинтэссенция лженауки: ИИ ошибается с ответами в 60% случаев, выяснили ученые
Интересно, что в ответах, сгенерированных ИИ, часто использовался более сложный язык, в то время как юристы-люди склонялись к более длинным и простым объяснениям — важный фактор, который, по-видимому, повлиял на восприятие людей, играя на иллюзии «профессионализма» в их глазах.
Модели искусственного интеллекта, такие как ChatGPT и другие большие языковые модели, прочно вошли в повседневную жизнь миллионов людей, предлагая быстрые решения для любых задач — от медицинской диагностики до юридических запросов.
Однако та же технология, которая дает мгновенные ответы, также уязвима для так называемых «галлюцинаций», когда ИИ с необоснованной уверенностью фабрикует неточную или бессмысленную информацию.
Такой уверенный тон ответа значительно усложняет для людей задачу по отделению обоснованных советов от убедительных ошибок, что становится особенно актуальным в таких высокостатусных областях, как юриспруденция, где один неверный шаг может привести к серьезнейшим последствиям.
В третьем показательном эксперименте, проведенном в рамках того же исследования, участникам было поручено отличить, от кого исходит юридический совет — от человека или от ChatGPT, не сообщая при этом источник.
Их результаты едва ли превзошли случайное угадывание, набрав в среднем 0,59 балла, где 0,5 балла — чистая случайность, а 1,0 балл — идеальная идентификация. Такие результаты говорят о том, что хотя интуитивная способность к различению существует, она остается пугающе слабой.
Такое размывание границ между машинным и человеческим опытом усиливает необходимость в структурных гарантиях, поскольку ИИ продолжает внедряться в процессы принятия решений в обществе на многих уровнях.
Усилия по сдерживанию этих рисков уже предпринимаются. Предложенный Европейским союзом закон об искусственном интеллекте включает в себя конкретные положения, например статью 50.9, требующую, чтобы тексты, созданные искусственным интеллектом, были помечены и идентифицированы как таковые.
Однако эксперты предупреждают, что одного регулирования недостаточно. Не менее важно повысить грамотность в области ИИ среди широкой общественности. В контексте юридических консультаций людям не нужно полностью отказываться от инструментов ИИ: они все еще могут служить отправной точкой для сбора информации.
Однако перекрестная проверка этих советов квалифицированными экспертами-людьми по-прежнему важна для предотвращения потенциальных юридических катастроф, вызванных алгоритмическими ошибками, считают авторы.
Ранее Фокус писал о том, как крохотные искры от растений во время грозы влияют на воздух. Исследование показывает, что электрические заряды на листьях деревьев во время гроз могут генерировать химические вещества, которые способны влиять на качество воздуха.
Также Фокус писал об опасении специалистов по поводу того, что ИИ может стать умнее человека всего за пять лет. Архитекторы искусственного интеллекта предупреждают, что он сможет превзойти людей практически в любой задаче.
