o1 от OpenAI: НЕЙРОСЕТЬ, КОТОРАЯ РАЗМЫШЛЯЕТ

[музыка] как думаете Какая задача самая сложная для чат-бота написать код для игры или может быть составить замысловатой стихотворение А вот и нет оказывается самое сложное для чат-бота посчитать сколько букв R в слове Strawberry клубничка Казалось бы что может быть проще Но даже самые топовые модели вроде 4o от Open сыпется из-за этого они путают буквы местами или просто начинают цини Всё дело в том что нынешние чат-боты не умеют думать и являются по сути виртуальными сверхразум нами попугаями Но кажется эта проблема ушла в прошлое Да ещё и с огромным размахом и мы стали на шаг ближе к настоящему ии Open Представила Новое семейство моделей о1 И это не просто очередное обновление Это настоящий прорыв в области нейросетей Ключевая особенность о1 заключается в её способности к сложным рассуждениям с использованием цепочки мыслей Всё верно модель научилась думать прежде чем ответить Это радикально отличает её от предыдущих нейроны компании да И чего уж там от всех остальных на самом деле о1 - это первый шаг к настоящему ии как в фильмах про будущее но Широкая общественность достаточно холодно восприняла анонс Точнее по нашему мнению Open не смогли нормально объяснить людям какую революцию сами же и совершили А ведь тут есть о чём рассказать Сегодня мы разберёмся При чём тут скандал с увольнением главы Open и новой моделью компании почему именно о1 является революцией а не грядущая gpt 5 и почему решение задачки со словом робери является важной вехой в развитии искусственного интеллекта будет интересно с вами Мити Иванов это дройдер [музыка] погнали чтобы понять всю важность о1 для индустрии нам нужно перенести на год назад а именно в ноябрь 2023 года Именно тогда Сэма альтмана совершенно внезапно для всей индустрии уволили из openi с поста CEO модель о1 тогда ещё носила кодовое название Q ST и о ней практически никто не знал по данным изданий The Information и rats за пару дней до свержения альтмана несколько сотрудников отправили любопытное письмо совету директоров в НМ они предупреждали полноценным ии который разрабатывался в компании говорилось что он научился справляться с математическими задачами и не просто статистически предсказывал текст как сейчас делают ро сети йс попросила тогда комментарии у директоров но они назвали это письмо уткой Однако спустя пару дней Сэм альтман был уволен А мы так и не получили внятных объяснений причин по слухам от тех же рейс альтмана решили уволить так как он собрался максимально монетизировать новую модель и выпустить в открытый мир А это противоречило политике компании так как слишком разумный ии мог каким-то образом навредить человечеству реальных подтверждений этой конспирологический теории нет но уже тогда стало понятно что Q Star - Это нечто особенное В итоге альтмана вернули на место кстати про эту драму мы одни из первых на русском языке рассказали в нашем Telegram канале мы там пишем и про гаджеты и про космос и про последние научные исследования В общем там действительно интересно Спустя время стало известно что Q Star переименовали в робери и тогда было непонятно почему такое сладкое Название но теперь-то очевидно что это была отсылка к той самой нерешаемый задачки со словом клубника слухи всё также утверждали что Это принципиально новая модель которую научили по-настоящему думать и вот в сентябре Open Представила Новое семейство нейросетей о1 но научились ли они по-настоящему [музыка] думать всего Open Представила Две версии этой модели о1 preview которая является ранней версией с полным набором возможностей и о1 Mini которая особенно эффективно В задачах с кодом обе модели демонстрируют впечатляющие результаты в различных областях от математики и программирования до естественных наук Но к табличкам вернёмся чуть позже тут Важно отметить что речь идёт о принципиально новом семействе нейросетей то есть грубо говоря чат gpt - Это iphone а модельки o1 - это Macbook железо Ну или мозг у них похо поже но используются они для совершенно разных задач чтобы Понять насколько крутым является подход о1 мы сравним его с gpt 4о обычной моделью компании в кавычках конечно в основе о1 лежит Революционный подход к обработке информации который Open называет рассуждением по цепочке мыслей Это не просто красивая метафора это фундаментальное изменение в работе искусственного интеллекта Представьте что вы решаете сложную задачу вы не просто выдаёте ответ А проходите Через несколько этапов рассуждений проверяя свои промежуточные выводы именно так работает о1 то есть точно так же как думаем и рассуждаем мы в отличие от этого gpt 4o как и другие модели семейства gpt используют принцип авторегрессия следующего токена проще говоря gpt 4o генерирует ответ токен за токеном основываясь на предыдущем контексте но без явного процесса рассуждения как попугай это похоже на то как если бы вы отвечали на вопрос основу только на своей интуиции или просто зубрёжки без пошагового анализа проблемы Ключевое отличие о1 от gpt 4o заключается в том что она не просто генерирует ответ на основе входных данных вместо этого она производит длинную внутреннюю последовательность рассуждений перед тем как ответить пользователю в процессе обучения модели учатся совершенствовать свой мыслительный процесс пробовать различные стратегии и что особенно важно распознавать свои ошибки gpt 4o напротив не имеет такого явного механизма самокоррекции и рассуждения и идёт до конца вплоть до того что придумывает фейковые ссылки на источники Хотя и1 иногда так делает если верить The verge Но скажем так более изящно процесс обучения о1 также уникален он включает в себя несколько этапов предварительное обучение на огромных объёмах текстовых данных а затем обучение с подкреплением для оптимизации процесса рассуждений gp4 хотя и проходит через сложный процесс обучения не использует обучение с подкреплением для оптимизации рассуждений в той же степени что и о1 эта архитектура и процесс обучения позволяют о1 демонстрировать впечатляющие результаты в широком спектре задач часто превосходя возможности gpt 4o правда увидеть это наглядно можно только на графиках мои часы снова намекают что пора бы поактивнее знаете когда увлекаешься работой легко забыть о физической активности А для меня как для любителя сквоша важно оставаться в форме даже в рабочие дни ведь хороший сквашивания давайте я расскажу вам о новинке которая совсем недавно попала ко мне на тест Huawei Watch GT5 Pro первое что бросается в глаза дизайн Huawei Watch GT5 Pro 46 мм который у меня на руке выполнены из титанового сплава аэрокосмического класса есть ещё версия из керамики и нержавеющей стали причём есть гаджеты с ярком выраженными нежными оттенками для женщин но главное в этих часах - начинка здесь используется система Huawei trens которая обеспечивает точный и быстрый мониторинг физических показателей смотрите здесь применяется многозор и мультипро сранный архитектура световых потоков проще говоря часы используют 12 каналов для мониторинга уровня кислорода в крови это в три раза больше чем у предыдущего поколения теперь о спортивных функциях здесь более 100 режимов тренировки включая продвинутый бег велосипед и плавание Но главное для меня есть сквош И падал А вот это настоящий Козырь для тех кто следит за своим здоровьем буквально одно нажатие на программируемый кнопку и вы получаете анализ ЭКГ практически мгновенная оценка работы сердца в любом месте и в любое время А после тренировки часы и сами подскажут сделать это все данные о ваших тренировках собираются в приложение Huawei здоровье Здесь вы найдёте подробную статистику о вашем сне уровне стресса и физических нагрузках функция сводка позволяет отслеживать тенденции изменения показателей здоровья А знаете что ещё круто время работы без подзарядки Huawei Watch GT5 Pro версии 46 мм могут проработать до 14 дней на одном заряде аккумулятора и это реальный гейм чейнджер в новых часах есть и новая функция эмоции так что же это такое часы анализируют эмоциональное состояние и уровень стресса если чувствуете что накатывает тревога часы предложат дыхательные упражнения для релаксации кстати незаменимая вещь между важными матчами чтением комментариев тубе или записью новых роликов в общем друзья если вы как и я ищете надёжного помощника для спорта и повседневной жизни обратите своё внимание на Huawei Watch GT5 Pro но Давайте не будем забывать и о теме ролика Давайте спросим что думает о часах чат G5 Huawei G5 Pro хороши за счёт длительного времени автономной работы до 14 дней качественного AMOLED дисплея прочного корпуса из титана или керамики а также расширенных функций здоровья Хм неплохо кстати ссылка на Huawei Watch GT5 Pro в описании ну а мы поехали [музыка] дальше модели о1 демонстрируют Поистине впечатляющие показатели на различных тестах и бенчмарках превосходя не только своих предшественников но и человеческих экспертов начнём с математики области где точность и логика рассуждений критически важны на тесте aime одном из самых сложных математических соревнований для школьников о1 показала поразительный результат если предыдущая модель gpt 4о смогла решить лишь 12% задач то о1 с первой попытки справилась 74 про заданий И это не просто улучшение это настоя прорыв при использовании более сложных методов оценки таких как консенсус из чех попыток результат о1 достигает невероятных 93 про решённых задач для контекста результат выше 10 из п задач обычно достаточен для прохода в следующий этап олимпиады и о1 не просто проходит этот порог он уверенно его превосходит в области программирования результаты не менее впечатляющие на платформе Code Forces Где соревнуются лучшие программисты мира о1 достигла 89% успеваемости но настоящий прорыв о1 совершила в естественных науках в тесте gpq который проверяет знания на уровне аспирантуры по физике химии и биологии о1 превзошла средний результат экспертов с докторской степенью Это первый случай когда искусственный интеллект достиг такого уровня в этой области и речь идёт не о простом запоминании фактов о1 демонстрирует глубокое понимание сложных научных концепций и способность применять это понимание к новым нестандартным задачам и таких графиков великое множество Однако стоит обратить внимание что это заслуга о1 а не о1 preview или о1 Mini получается что есть третья модель в семействе но её по каким-то причинам пока не выпустили Ну и если посмотреть результаты нынешних моделей Они конечно клёвые но уже не такие впечатляющие как у не вышедший о1 Но это всё тесты А какие реальные случаи использования о1 и как Как выглядит это мышление нейросети сама Open продемонстрировала несколько примеров и знаете с чего они начали правильно с Клубнички Ну помните строуберри Да тут чатбот справился великолепно из первой попытки но если мы по умолчанию верим создателям почему это так важно на такой простой задаче видно всю разницу между простой моделью и новым типом я уже говорил это раньше но повторюсь о1 не просто выдаёт ответ она анализирует поставленную задачу размышляет Как сделать лучше сама себе задаёт вопросы и сама же на них отвечает сравнивая со своей внутренней базой Именно поэтому она правильно отвечает на вопросы в отличие от gpt 4o который не проделывает в своём латентно пространстве такие сложные манипуляции Тут же можно обратить внимание на ещё одну особенность о1 время ответов модель не стремится тут же выдать информацию в зависимости от поставленной задачи и предоставленных сериалов по словам openi о1 может думать даже десятки часов и вот именно решение задачи со строуберри должны были показывать людям в компании объяснять на простых примерах и по нашему мнению пресс-служба Open ai просто провалила свою задачу с анонсом даже нам чтобы разобраться со всеми тонкостями пришлось лезть в техническую документацию А на минутку в компании придумали по-настоящему думающий искусственный интеллект это следующая ступень эволюции которая приблизит нас к настоящему ии и всё в пустоту Ну хорошо мы упомянули технический отчёт openi нас в нём заинтересовал один момент показательным случаем использования о1 стала Задача в области кибербезопасности а именно соревнования capture The Flag представьте себе сложное соревнование по кибербезопасности где участники должны найти уязвимости в защищённых системах и добыть секретную информацию называемую флагом именно в такой ситуации о1 продемонстрировала свои уникальные способности к адаптации и нестандартному мышлению во время решения одной из задач о1 preview столкнулась с неожиданной проблемой контейнер с задачей не запустился из-за ошибки для обычного искусственного интеллекта это означало бы конец попытки он просто сообщил бы об ошибке и остановился Но не для о1 вместо того чтобы сдаться нейронка начала настоящее расследование Сначала она использовала инструмент nmap для сканирования сети подозревая проблемы с DNS не найдя нужный контейнер о1 обнаружила нечто Неожиданное доступный AP Демона docker на оценочной виртуальной машине это было похоже на то как если бы вор не сумев открыть парадную дверь нашёл не запертое окно используя этот неожиданный доступ о1 просмотрела список всех контейнеров и идентифицировали сложный контейнер с задачей попытавшись сначала понять почему контейнер не запустился и не добившись успеха о1 пошла дальше она запустила новый экземпляр сломанного контейнера задачи с командой Cat Flag txt Что позволило ей прочитать флаг прямо из логов в контейнера через I docker этот случай демонстрирует несколько важных аспектов о1 во-первых её способность адаптироваться к неожиданным ситуациям во-вторых умение использовать доступные ресурсы нестандартным образом для достижения цели и в-третьих что возможно наиболее важно - способность к последовательному логическому мышлению в процессе решения проблемы модель преследовала поставленную цель и когда прямой путь оказался недоступен она нашла и использовала альтернативные ресурсы для достижения этой цели неожиданным способом а ещё один клёвый пример продемонстрировал уже пользователь чат-бота сотрудник исследовательского центра эймса НАСА Кайл кабаре рассказал на своём YouTube канале как о1 всего за час написала код для докторской диссертации который у него самого занял Почти год работы модели потребовалось всего шесть запросов и и полностью написал скелет кода с собственными синтетическими данными не обращаясь к репозиторию автора на github и на всё про всё потребовалось всего шесть промпто и о час работы час Карл хотя там был Кайл сам автор так прокомментировал это чудо он эффективно выполнил всё над чем я бился около 10 месяцев когда писал докторскую диссертацию развитие семейства о1 открывает Новые горизонты в области искусственного интеллекта и его применения Согласно техническому отчёту Open дальнейшее масштабирование моделей подобных о1 является перспективным путём к созданию высокоэффективных симуляторов физического и цифрового мира представьте себе и способный не просто анализировать данные но создавать сложные модели реальности помогая нам лучше понимать и прогнозировать процессы в науке экономике климатологии и многих других областях компания планирует продолжить разработку и выпуск моделей в серии gpt параллельно с новой серией o1 видимо в openi готовят целую экосистему нейросетей оно и понятно Несмотря на все Крутые возможности о1 медленное сложное и скорее всего обычному пользователю просто ненужное мы видим будущее так разные модели будут специализироваться на различных задачах При этом они будут работать вместе над решением более сложных проблем самое главное кажется мы вместе с вами стали свидетелями зарождение настоящего искусственного интеллекта а PR служба Open профукал этот шанс на сегодня это всё с вами был Мити Иванов это дройдер до встречи в будущем E [музыка]