«Необходимо не просто соединять нейроны, а активно размышлять. Доверять ли искусственному интеллекту? ИИ способен ошибаться, но также может сойти с ума. Составление литературных обзоров и списков литературы — это задача, которую может выполнить ИИ. Однако он может создавать идеальные списки, но при этом выдумывать статьи. Почему ИИ создаёт выдуманные факты? Этот вопрос вызывает опасения. Разговоры с разработчиками ИИ подтверждают эти опасения.Важно сохранять критическое мышление и не полагаться на ИИ полностью».
Татьяна Владимировна Черниговская — директор Института когнитивных исследований; исполняющая обязанности заведующей кафедрой проблем конвергенции естественных и гуманитарных наук, доктор биологических наук, академик Российской академии образования, член совета программы «Когнитивные исследования».
«Галлюцинации» ИИ стали новой угрозой. Татьяна Черниговская
Для того, чтобы не получилось чего-то неприятного,
нужно много думать.
Не просто соединять один нейрон с другим, условно говоря,
а много думать, что это значит.
Например, доверяем ли мы искусственному интеллекту?
Мы ему верим, вот он нам выдаст, он бигдейта съел, кучу всего.
После этого говорит, дела абсолютно так.
А я верю ему.
Во-первых, он тоже может ошибиться.
Но это простой ответ.
А если это другое?
Недавно, опять же, я задала вопрос.
Я обожаю рассказывать про свои провалы.
Это все мои провалы идут.
Я сказала, а он может тронуться умом?
Искусственный интеллект может с ума сойти?
Он говорит, уже.
У него галлюцинации.
Галлюцинации – это ровно то, чего мы ждали.
Только нам этого не хватало.
Например, известно, но это, я думаю, все здесь сидящие знают,
что жуткая работа писать литературные обзоры по каким-то темам.
А еще жутчай работа составлять списки литературы
по правилам определенных журналов.
Это вообще лучше удавиться.
Здесь большая буква, здесь точка, здесь точка запятой,
здесь так линия, здесь так линия.
Кошмар.
Это они делают в ноль времени и блестяще.
Ты получаешь идеальный список литературы.
Внимание!
Только этих статей никто никогда не писал.
Их нет.
Это реальные факты.
Их просто нет.
Он их выдумал.
Он точно так же может выдумать вам и факты, которые вы считаете, что факты.
И здесь опять встает этот страшный вопрос.
Это так вышло?
Или он дозрел способом, который мы не понимаем?
И он издевается, что называется.
Но это я выдумала, конечно.
Мне буквально издевается.
Что вообще случилось?
Зачем он создал этот список?
Он же мог бы его не создавать.
Эти огромные кучи этой литературы и так везде есть.
Он мог набрать все, что хочешь.
Зачем он придумал это?
Пусть мне кто-нибудь ответит.
Поэтому это та история, где, мне кажется, самое главное –
не потерять контроль над ситуацией.
Вот мои разговоры, в том числе и с разработчиками некоторыми этих сетей,
они привели меня к выводу,
что основное опасение – это утратить контроль.
Я больше не понимаю, что там происходит.
Вот это плохая история.
Мы всё равно никуда не денемся.
Мы будем с этим жить.
И тут много полезного.
Но где-то на задах сознания
этот чёртик должен сидеть, который говорил,
ты вообще подумай, ты уверен?
Ты уверен? Почему ты доверяешь?
Ты уверен, что он не врёт?
