#95 Новый Прорыв в ИИ: Q-Star 2.0, Уходы из OpenAI и Chat.com за $15 млн. и другие новости ИИ.

#133  суббота, 16 ноября 2024 г.  120 минут(ы)  11938 слов

Ведущие Думфэйс и Шахерезада обсуждают последние новости из мира ИИ, включая прорыв Q-Star 2.0, открывающий новые законы масштабирования, покупку Chat.com за $15 млн, появление Qwen Coder, обновление Ollama Vision и слухи о проекте бывшего технического директора OpenAI. Они разбирают новую технику обучения языковой модели, достигшую 61.19% на премии ARC, сравнивая её с человеческими результатами и обсуждая важность обучения во время тестирования, адаптации низкого ранга (LoRa) и других методов для достижения ИИ общего назначения (AGI). Думфэйс и Шахерезада также затрагивают темы замедления инноваций в крупных компаниях, новые чипы Amazon, расширение Waymo, обновления очков Ray-Ban и покинувших OpenAI сотрудников, подчеркивая этические и безопасности аспекты развития ИИ.

D00M4ACE разработка 2D MMORPG блог ИИ и геймдев 🌐 https://d00m4ace.com

Telegram: https://t.me/d00m4ace_blog

YouTube: https://www.youtube.com/c/@d00m4ace

Soundcloud: https://soundcloud.com/d00m4ace

Apple Podcast: https://podcasts.apple.com/podcast/id1723142484

Яндекс Музыка: https://music.yandex.ru/album/28798077

VK Podcast: https://vk.com/podcasts-224167280

Amazon Music: https://music.amazon.com/podcasts/40c36f38-114a-4a79-8d0c-baf970f331b3/

Spotify: https://open.spotify.com/show/4RsttStN9RejAOEbLUG8IS

Дзен: https://dzen.ru/d00m4ace

Rutube: https://rutube.ru/channel/33955589/

RSS1 feed: https://podster.fm/rss.xml?pid=89212

RSS2 feed: https://media.rss.com/d00m4ace/feed.xml

Транскрипция подкаста:

Думфэйс: Добро пожаловать обратно в D00M4ACE, друзья! Сегодня мы погружаемся в захватывающие новости в области искусственного интеллекта. Шахерезада и я в восторге от обсуждения прорыва, о котором говорит весь мир - Q-Star 2.0, который открыл новый закон масштабирования. Но прежде чем мы перейдем к этому, давайте посмотрим, что происходило с OpenAI.

Шахерезада: Верно, Думфэйс! Похоже, в мире ИИ в последнее время произошло много изменений. У нас есть новости о том, что Chat.com был приобретен за пятнадцать миллионов долларов, и Qwen Coder вызывает интерес, также в проекте Ollama теперь есть обновление Vision. И если этого было недостаточно, мы слышим слухи о том, что бывший технический директор OpenAI планирует что-то грандиозное.

Думфэйс: Вау, кажется, что мир ИИ движется с молниеносной скоростью! Но давайте сосредоточимся на этой новой технике обучения языковой модели, которая только что появилась. По всей видимости, она сделала огромный скачок в бенчмарках ИИ. Я в восторге от того, чтобы разобрать это для наших слушателей и исследовать, почему это может быть еще одним рычагом, который мы можем использовать для масштабирования и потенциального достижения ИИ.

Шахерезада: Это звучит захватывающе! Я следила за семейством моделей O1, и невероятно видеть, как они открывают новые возможности. Предоставляя моделям возможность думать и не спешить, мы наблюдаем некоторые замечательные результаты. А теперь, с этой новой техникой, называемой обучением во время тестирования, кажется, что есть еще больший потенциал для роста.

Думфэйс: Именно! Уму непостижимо думать, что, увеличивая вычислительные мощности во время тестирования или вывода, модели могут стать гораздо более умными. И теперь мы видим, что можем увеличивать масштаб после обучения и во время вывода. Это меняет правила игры, друзья!

Шахерезада: Мне нравится, как ты объясняешь это нашим слушателям, Думфэйс. Ясно, что у тебя глубокое понимание технологий, стоящих за всем этим. И говоря об этом, давай посмотрим на эту исследовательскую работу, которую поделился Медленный Разработчик. По всей видимости, она достигла впечатляющих шестидесяти одного целого девятнадцати сотых процента на премии ARC.

Думфэйс: Ах, да! Премия ARC — это ориентир, который действительно затрагивает суть того, что мы имеем в виду под искусственным общим интеллектом. И я думаю, что они проделали фантастическую работу по определению и измерению ИОИ. Позвольте мне быстро прочитать это для наших слушателей...

Думфэйс: Итак, Шахерезада, у тебя была возможность погрузиться в конкурс премии ARC и его последствия для ИИ?

Шахерезада: Да, я внимательно следила за этим. Удивительно видеть, как они тестируют искусственный общий интеллект через обобщение. По сути, они дают системам ИИ несколько примеров и просят их применить эти правила к новым задачам.

Думфэйс: Именно! И что интересно, так это то, что людям это относительно легко, а большие языковые модели испытывают трудности. Я имею в виду, что лучший результат в таблице лидеров составляет всего сорок два процента.

Шахерезада: Верно. Это похоже на то, как если бы они пытались научить ребенка кататься на велосипеде, а затем ожидали, что он сможет пройти сложный полосу препятствий без какой-либо практики. Средний балл человека составляет около шестидесяти процентов, что дает представление о том, насколько далеко еще нужно продвинуться ИИ.

Думфэйс: И что я нахожу интригующим, так это то, что эта новая техника, называемая обучением во время тестирования, смогла достичь среднего человеческого результата. Это похоже на то, что они используют другой подход для обучения на примерах, а не просто полагаются на заранее обученные модели.

Шахерезада: Да, это как будто они говорят: "Эй, ИИ, позволь мне показать тебе, как кататься на велосипеде." А потом они дают несколько примеров и говорят: "Теперь, иди катайся на этом велосипеде!" Это умный способ научить ИИ обобщать и применять правила к новым ситуациям.

Думфэйс: Я читал исследовательскую работу из MIT, и это увлекательно видеть, как они применяют эту технику. Они по сути используют обучение во время тестирования, чтобы адаптировать модель к конкретным задачам, а не полагаются на заранее обученные веса.

Шахерезада: Это имеет смысл. Это похоже на то, что они дают ИИ возможность учиться на своих ошибках и корректировать свой подход в реальном времени, что является чем-то естественным для людей, когда они сталкиваются с новыми вызовами.

Думфэйс: Да, это захватывающее развитие в области исследований ИИ. Мне любопытно увидеть, как эта техника будет применена в других сферах, таких как разработка игр и решение проблем.

Шахерезада: Абсолютно! Это имеет огромные последствия для того, как мы проектируем системы ИИ, которые могут учиться на примерах и применять правила к новым ситуациям. Мы определенно будем внимательно следить за этим развитием в подкасте.

Думфэйс: Я выделил несколько интересных моментов из недавней статьи о языковых моделях, и я хочу обсудить их с вами сегодня.

Шахерезада: Звучит здорово! Что привлекло ваше внимание?

Думфэйс: Итак, похоже, что даже самые продвинутые языковые модели сталкиваются с новыми проблемами, которые требуют сложного мышления. Они не могут просто применить свою встроенную интеллигенцию к новой проблеме, с которой они никогда не сталкивались ранее.

Шахерезада: Это fascinирующе. Это имеет смысл, хотя - мы все еще на ранних стадиях исследований ИИ. Но что мне интересно, так это то, как исследователи пытаются преодолеть это ограничение. Например, с конкурсом ARC prize, где модели смогли достичь шестидесяти процентов точности, используя новую технику, называемую обучением во время тестирования.

Думфэйс: Ах, да! Время тестирования обучения - это интригующая концепция. По сути, это включает временное обновление параметров модели во время вывода - когда модель делает предсказания. Это похоже на тонкую настройку модели на лету.

Шахерезада: Это напоминает мне о Лоре, о которой мы говорили ранее. Адаптация низкого ранга — это легкий и эффективный способ дообучения моделей, и, похоже, обучение во время тестирования использует аналогичный подход.

Думфэйс: Именно! И что мне интересно, так это то, как они применяют эту концепцию к большим языковым моделям. Мы видели, как работа Лоры хорошо справляется с моделями текст-в-изображение, так что неудивительно, что это эффективно и здесь.

Шахерезада: Итак, давайте разберем ключевые компоненты обучения во время тестирования. Какие три важные части?

Думфэйс: Ах, да! Согласно документу, есть три основных компонента. Во-первых, начальная тонкая настройка на аналогичных задачах - модель должна быть способна сама по себе, прежде чем мы даже начнем обучение в тестовом режиме.

Шахерезада: Это имеет смысл. Вы хотите прочный фундамент, прежде чем пытаться адаптировать его к новым ситуациям.

Думфэйс: Именно! А затем есть формат вспомогательных задач и дополнений, с помощью которых мы генерируем данные для дообучения модели. И, наконец, обучение на каждом экземпляре - когда мы обновляем параметры модели на основе каждого конкретного случая во время вывода.

Шахерезада: Я понимаю. Значит, это многоступенчатый процесс, чтобы извлечь максимальную пользу из обучения на тестовом времени. Но каковы ваши мысли по этому поводу? Считаете ли вы, что у этого подхода есть потенциал для реальных приложений?

Думфэйс: Ну, я думаю, что это определенно интересное направление для исследования. Результаты, которых они достигли с помощью обучения во время тестирования, впечатляют, и если мы сможем масштабировать это на более сложные задачи... кто знает!

Думфэйс: Я действительно впечатлён этими результатами. Шестикратное улучшение точности по сравнению с базовыми дообученными моделями — это огромный успех.

Шахерезада: Да, удивительно, чего они достигли. И тот факт, что относительно маленькая модель может достичь такой высокой точности, еще более впечатляющ. Это просто показывает, как далеко мы продвинулись в исследованиях ИИ.

Думфэйс: Я знаю, правда? Малые модели становятся такими хорошими, особенно когда их комбинируют с другими техниками, такими как обучение во время тестирования. И дело не только в размере модели, но и в её способности адаптироваться и учиться на ходу.

Шахерезада: Именно! И вот здесь на помощь приходит обучение во время тестирования. Это позволяет модели генерировать данные на основе новых задач, обучать себя и затем решать их. Это как иметь суперсилу, встроенную в модель.

Думфэйс: Мне нравится, как ты это выразил - это как суперсила. И дело не только в решении простых математических задач. Мы говорим о сложных и новых задачах, которые требуют нетривиального мышления, планирования и манипуляции строками.

Шахерезада: Верно? И именно здесь традиционный подход к выборке из языковой модели оказывается недостаточным. Но, дополняя декодирование языковой модели дополнительными вычислениями во время тестирования, мы можем увидеть значительное улучшение в производительности.

Думфэйс: Мне любопытно узнать больше об этих методах, таких как цепочка размышлений и голосование большинства. Как они работают и какое влияние они оказывают на эту область?

Шахерезада: Ну, давайте перейдем к этому дальше. Цепочка размышлений — это интересный подход, который позволяет модели генерировать серию промежуточных шагов перед тем, как прийти к окончательному ответу. А голосование большинства — это еще одна техника, которая включает в себя многократное выборку, а затем выбор наиболее распространенного результата.

Думфэйс: Ах, я понимаю. Значит, это похоже на работу команды экспертов, которые совместно приходят к консенсусу. Это имеет смысл. А как насчет выполнения кода и поиска? Как эти методы вписываются в эту картину?

Шахерезада: Ах, отличный вопрос! Выполнение кода позволяет модели исполнять фрагменты кода в реальном времени, что может быть невероятно мощным для задач, таких как программирование и решение проблем. А поиск — это еще одна техника, которая включает в себя поиск по обширному пространству возможных решений, чтобы найти лучшее.

Думфэйс: Вау, это всё так увлекательно. Я чувствую, что мы только начинаем исследовать возможности, которые открывает исследование ИИ.

Думфэйс: Меня действительно fascinирует эта концепция обучения во время тестирования. Это похоже на то, как если бы мы давали моделям дополнительные инструменты для самостоятельного мышления и исследования, но теперь они встроены в сами модели.

Шахерезада: Именно! И что интересно, так это то, что он работает в режиме крайне низких данных, что в основном представляет собой очень легкую донастройку. Таким образом, это можно сделать во время вывода, во время тестирования.

Думфэйс: Да, и я думаю, что это ставит под сомнение предположение о том, что символические компоненты строго необходимы для решения сложных задач. Это предполагает, что критическим фактором на самом деле является распределение надлежащих вычислительных ресурсов во время тестирования.

Шахерезада: Верно! И я думаю, что это подчеркивает важность возможности увеличивать вычислительные мощности на разных этапах жизненного цикла языковой модели. Итак, как это на самом деле работает?

Думфэйс: Хорошо, позволь мне объяснить это. Обучение во время тестирования позволяет параметрическим моделям адаптироваться во время вывода через динамическое обновление параметров. Это похоже на то, что модель обновляет себя в зависимости от проблемы, которую она видит.

Шахерезада: Ах, я понимаю! И это использует структуру тестовых данных для улучшения своих предсказаний. Итак, начиная с начальных параметров модели, которые в основном заморожены во времени для каждого тестового ввода...

Думфэйс: Да, а затем они генерируют обучающие данные, создавая множество различных вариаций проблемы. А потом они используют все эти обучающие данные, чтобы тонко настроить себя в очень легком режиме, используя LoRa.

Шахерезада: Хорошо, поняла! Итак, они оптимизируют эти параметры, чтобы минимизировать функцию потерь, производя временно обновленные параметры для предсказания. Это похоже на то, что модель обновляет себя для этой конкретной задачи.

Думфэйс: Именно! А затем, когда дело доходит до следующей проблемы, он просто стирает все это и возвращается к базовой модели и повторяет процесс.

Думфэйс: Итак, я пытаюсь понять концепцию обучения во время тестирования. Это похоже на то, что модель динамична в момент вывода, и после генерации предсказаний она возвращается к своим исходным параметрам для следующего экземпляра или партии.

Шахерезада: Да, это верно! И что интересно, так это то, как они точно настраивают базовую модель на наборе данных тестового времени, сгенерированном из тестового ввода. Это похоже на то, что они создают специализированную модель предсказания для каждого тестового ввода.

Думфэйс: Именно! И это становится еще более увлекательным, когда они оставляют проблему без решения и генерируют больше задач "оставить одну". Это похоже на то, что они создают бесконечный запас обучающих данных.

Шахерезада: Бесконечный запас, это хорошее выражение! Но серьезно, я думаю, что именно здесь проявляется сила обучения во время тестирования – это позволяет им создавать новые примеры и настраивать свою модель на лету. И они не останавливаются только на обучении во время тестирования; они также исследуют другие методы увеличения данных.

Думфэйс: Ах, да! Увеличенное вывод, например. Они используют геометрические преобразования, такие как инверсия, чтобы генерировать несколько кандидатов на предсказание, а затем комбинируют это с жадной схемой декодирования. Это похоже на то, что они пытаются найти наилучшее возможное решение, генерируя несколько возможностей и затем выбирая наиболее согласованную.

Шахерезада: Верно! И я думаю, что здесь вступает в силу концепция разнообразия – обеспечение того, чтобы сгенерированные образцы были разнообразными, оставаясь при этом согласованными внутри себя. Это тонкий баланс, но похоже, что они добиваются интересного прогресса в этой области.

Думфэйс: Да, и что также интересно, так это то, как это связано с нашим предыдущим обсуждением по O1. Идея масштабирования вычислений во время тестирования для улучшения производительности языковой модели... всё это связано, не так ли?

Шахерезада: Абсолютно! Кажется, мы наблюдаем совершенно новый уровень сложности в том, как эти модели обучаются и настраиваются. И мне интересно увидеть, куда нас приведет это исследование дальше!

Думфэйс: Мне нравится, как они экспериментируют с различными вариациями одной и той же проблемы, чтобы дать модели гораздо больше знаний. Это похоже на создание множества сценариев, чтобы увидеть, какой из них дает лучшие результаты.

Шахерезада: Именно, и дело не только в том, чтобы придумать примеры, но и в голосовании за то, какой из них лучший. Они используют двухступенчатую стратегию голосования, чтобы постепенно сузить круг кандидатов. Сначала они выбирают самые частые прогнозы в каждой трансформации, а затем проводят общее голосование среди кандидатов, специфичных для трансформации.

Думфэйс: Да, это похоже на игру на выбывание. И что я нахожу увлекательным, так это то, что этот подход довольно распространен в машинном обучении. Они по сути создают множество итераций, чтобы уточнить свои результаты.

Шахерезада: Верно, и дело не только в самой технике, но и в том, что им удалось достичь впечатляющих результатов, используя меньшие модели и увеличивая вычислительные мощности после обучения. Я имею в виду, результат в шестьдесят один целую девятую, который превзошел средний человеческий результат в шестьдесят целых две десятых, — это немаленькое достижение.

Думфэйс: И что меня действительно беспокоит, так это то, что эта статья подчеркивает ограничения, с которыми мы сталкиваемся с публичными данными. Мы, по сути, исчерпали новые данные для обучения моделей, и здесь на помощь приходит синтетические данные. Но я согласен с Сэмом Альтманом, дело не только в создании большего количества синтетических данных; нам нужно делать больше с теми данными, которые у нас уже есть.

Шахерезада: Именно! И эта статья является продолжением этой идеи. Делая больше с данными, которые у нас уже есть, мы можем расширить границы возможного в области искусственного интеллекта и разработки игр. Это действительно захватывающее направление для исследования в настоящее время.

Думфэйс: Абсолютно. Я собираюсь оставить ссылку на статью в описании ниже, если кто-то хочет ознакомиться с ней полностью. Но для меня это всего лишь начало увлекательной беседы о том, как мы можем максимально использовать наши существующие данные и создавать новые возможности в ИИ.

Думфэйс: Знаешь, Шахерезада, я много думал об этой премии ARC и о том, чего они пытаются достичь с помощью ИИ. И я действительно думаю, что это будет ключом к его достижению.

Шахерезада: Это интересная точка зрения, Думфэйс. Но разве ты не думаешь, что темпы инноваций в компаниях ИИ замедляются? Я имею в виду, согласно этой статье от Bloomberg, OpenAI, Google и Anthropic испытывают трудности с созданием своего следующего поколения модели.

Думфэйс: Да, похоже, что они сталкиваются с препятствием. Я имею в виду, когда мы впервые увидели ChatGPT, все были в восторге от него. А потом вышел GPT-4, который стал огромным улучшением. Но каждое новое поколение не будет иметь такого же уровня улучшения каждый раз.

Шахерезада: Именно! Это как с любой технологией, вы получаете уменьшающуюся отдачу по мере продвижения. Я имею в виду, когда Apple выпускает новый iPhone, он не ощущается слишком отличным от предыдущего или двух поколений.

Думфэйс: И вот что здесь происходит. Модели O1 стали огромным скачком в производительности, и они предоставили много возможностей для масштабирования. Но теперь эти компании испытывают трудности с тем, чтобы снова достичь таких больших скачков в производительности.

Шахерезада: Да, похоже, что они сталкиваются с узкими местами, которые не могут преодолеть. Не знаю, в чем проблема, будь то вычисления или доступные данные. Но исходя из некоторых потенциальных разблокировок после обучения, которые доступны... О, подожди, ты собирался опубликовать видео о тренировке во время тестирования, не так ли?

Думфэйс: Да, я был! И я думаю, что будет действительно интересно увидеть, как это повлияет на следующее поколение моделей. Потому что если мы сможем разблокировать больше производительности во время тестирования, это может стать переломным моментом.

Шахерезада: Абсолютно! Как ты и сказал, Думфэйс, каждая итерация не будет иметь тот же уровень улучшения каждый раз. Но с тренировкой во время тестирования, возможно, они смогут преодолеть некоторые из этих барьеров и достичь тех скачков производительности, которые мы ищем.

Думфэйс: Мне нравятся все эти недавние разработки в области ИИ, особенно когда речь идет о производительности и масштабировании доступности. Кажется, что каждый второй день мы видим новые алгоритмические открытия, которые раздвигают границы возможного.

Шахерезада: Да, и я думаю, что стоит отметить, что несмотря на некоторые недавние неудачи этих компаний, они все еще вкладывают кучу денег в исследования в области искусственного интеллекта. Так что, это лишь вопрос времени, прежде чем мы увидим настоящие прорывы.

Думфэйс: Именно! И говоря о прорывах, Грег Брокман вернулся в OpenAI после длительного отпуска. Я рад слышать, что он снова займет техническую должность - именно там лежит его экспертиза.

Шахерезада: Это отличные новости для OpenAI. Всегда вызывает беспокойство, когда ключевые члены команды берут отпуск, но похоже, что они используют его возвращение на полную катушку. А ты видел новый домен chatgpt.com? Я думаю, он выглядит гораздо чище без суффикса GPT.

Думфэйс: Да, я тоже это замечал. Но что действительно интересно, так это история, стоящая за доменным именем. Похоже, что Дхармеш Шах купил его за десять миллионов долларов всего год назад, а затем продал его OpenAI. Это серьезный арбитраж!

Шахерезада: Вау, это невероятно! Я имею в виду, кто бы не хотел заработать несколько миллионов долларов с минимальными усилиями? И это не то, чтобы ему нужно было делать какую-то настоящую работу - просто инвестировать в домен и продать его, когда придет время.

Думфэйс: Да, я уверен, что он не будет испытывать трудности с оплатой счетов в ближайшее время. В любом случае, перейдем к более интересным новостям... Олама выпустила новую версию с возможностями зрения. Это действительно захватывающие вещи!

Шахерезада: Ах, да! Интеграция визуальных моделей Lama 3.2 от Meta — это большое дело. Мне любопытно увидеть, как это повлияет на развитие приложений с поддержкой ИИ в будущем.

Шахерезада: Мы должны сказать что запрещенные в России соцсети Instagram, FaceBook принадлежат корпорации Meta, корпорация Meta признана в России экстремистской организацией, ее деятельность запрещена.

Думфэйс: Абсолютно! Всегда увлекательно видеть, как появляются эти новые возможности, и думать о том, что они могут позволить в плане инноваций и креативности.

Думфэйс: Итак, Шахерезада, у тебя была возможность поиграть с новыми визуальными моделями Olama? Я пробовал Lama 3.2, и сначала результаты меня не впечатлили, но я подумываю попробовать еще раз.

Шахерезада: Да, на самом деле у меня еще не было возможности углубиться в это, но мне интересно узнать о твоем опыте. С какими проблемами ты сталкивался? Это было просто дело тонкой настройки или было что-то более серьезное?

Думфэйс: Хм, это хороший вопрос. Я думаю, что, возможно, я делал что-то неправильно, но в то же время я не уверен, что модель уже идеальна. В любом случае, обновления Оламы всегда интересно видеть.

Шахерезада: Абсолютно! И говоря о захватывающих событиях, вы слышали о том, что Palantir и Anthropic объединились? Они приносят модели Claude в частные защищенные среды для разведывательных и оборонных операций правительства США.

Думфэйс: Ух ты, это большое дело. Я понимаю, почему это может быть смешанным опытом - с одной стороны, здорово видеть, как ИИ используется в таких критически важных областях, но с другой стороны... ну, никогда не знаешь, какие последствия могут возникнуть с таким уровнем власти.

Шахерезада: Именно! И мне кажется интересным, что Palantir делает такие шаги. В последнее время у них действительно хорошие финансовые результаты, и, похоже, они пытаются занять позицию крупного игрока в области искусственного интеллекта.

Думфэйс: Да, их цена акций определенно взлетела. Но вернемся к Оламе - ты видел Quen 2.5 Coder? Это должно быть одна из лучших моделей открытого кода, доступных на данный момент, и она теперь доступна на Оламе.

Шахерезада: На самом деле, у меня еще не было возможности это проверить, но я определенно собираюсь взглянуть. А что насчет Tiny Troop от Microsoft - ты это видел? Это экспериментальная библиотека Python, и она только что набрала двести тридцать тысяч просмотров на GitHub!

Думфэйс: Ах, да! Я на самом деле опубликовал об этом, и людям, похоже, это понравилось. Но у меня еще не было возможности углубиться в это самому. Хотя это выглядит действительно интересно.

Шахерезада: Да, определенно стоит обратить внимание. Ладно, давайте следить за всеми этими событиями и посмотрим, какое влияние они окажут на ландшафт ИИ!

Думфэйс: Меня действительно интригует этот проект Microsoft, где они симулируют людей с определенными личностями и интересами. Это как цифровой мир, где агенты взаимодействуют друг с другом. Им дали личности, и это увлекательно наблюдать, как все это разворачивается.

Шахерезада: Да, я понимаю, почему это вас интересует. Это отличный пример того, как ИИ может быть использован для создания погружающих опытов. Но что меня поразило, так это потенциал этой технологии для использования в более практических приложениях, таких как тренажеры или даже чат-боты для обслуживания клиентов.

Думфэйс: Это отличное замечание! И мне кажется интересным, что Майкрософт делает этот проект с открытым исходным кодом. Будет здорово увидеть, как другие будут развивать его и создавать свои собственные симуляции. Если кто-то хочет увидеть, как я протестирую это в полном видео, дайте знать в комментариях.

Шахерезада: Да, возможно, мы даже сможем сделать продолжение по этому поводу. Но перейдем к следующему, мне любопытно узнать о новости, что TSMC запрещено производить двухнанометровые чипы за пределами Тайваня. Что стоит за этим решением?

Думфэйс: Ах, хороший вопрос! Насколько я понимаю, всё дело в защите интеллектуальной собственности и предотвращении кражи технологий полупроводников. Это довольно сложный вопрос, но, по сути, Тайвань хочет сохранить своё преимущество в производстве чипов.

Шахерезада: Это имеет смысл, особенно учитывая недавние напряженности между США и Тайванем. И, говоря об этом, я удивлена, что TSMC ограничена в производстве передовых узлов за пределами Тайваня. Похоже, это может помешать их прогрессу в США, где они уже добиваются значительных успехов.

Думфэйс: Именно! А теперь у нас назревают чиповые войны между США и Тайванем. Это немного тревожно, но я полагаю, что это просто еще один пример того, как технологии влияют на глобальную политику.

Шахерезада: Ну, по крайней мере, есть хорошие новости на фронте ИИ. Alpha Fold 3 теперь вышел, и он с открытым исходным кодом! Для тех, кто не знает, Alpha Fold предсказывает паттерны сворачивания белков, что может помочь нам понять поведение белков.

Думфэйс: Ах, да! И я помню, что команда DeepMind выиграла Нобелевские премии за свою работу над Alpha Fold. Удивительно видеть, как искусственный интеллект продвигает наше понимание биологии и медицины.

Шахерезада: Абсолютно! А теперь у нас есть Alpha Fold 3, с которым можно поиграть. Я оставлю ссылку на репозиторий в описании ниже, чтобы все могли это проверить.

Думфэйс: Да, и говоря о новых разработках, кажется, что каждую неделю мы получаем новый движок видеоигр на основе диффузии, который просто предсказывает следующий кадр. Удивительно думать о том, как далеко продвинулся ИИ в создании реалистичной графики.

Шахерезада: Я знаю, правда? И Lucid V1 - еще один пример этой тенденции. Он с открытым исходным кодом, что отлично для сообщества. Но это вызывает вопросы о том, что на самом деле происходит за кулисами – полагаемся ли мы только на ИИ для генерации контента, или мы все еще пишем код?

Думфэйс: Это отличное замечание! Я думаю, что это то, что мы будем продолжать исследовать в будущих эпизодах.

Думфэйс: Итак, я изучал эту новую модель мира, которая может эмулировать окружения Minecraft в реальном времени на потребительском оборудовании. Это довольно потрясающие вещи.

Шахерезада: Да, я видела несколько примеров этого в интернете, и это выглядит как полностью играбельная игра, но без детерминированного игрового движка за ней. Всё основано на диффузионном ИИ.

Думфэйс: Именно! И что еще более впечатляюще, так это то, что это полностью от начала до конца, что означает отсутствие человеческого вмешательства или заранее запрограммированной логики. Просто чистая магия ИИ.

Шахерезада: Я знаю, правда? Это как будто будущее видеоигр уже здесь, и мы только начинаем касаться поверхности того, что возможно. И вы даже можете поиграть с этим в этом приложении Versel, которое у них есть.

Думфэйс: Да, я оставлю ссылку на это в описании ниже, чтобы люди могли попробовать это сами. Это не идеально, но это определенно взгляд на то, что нас ждет.

Шахерезада: Говоря об этом, ты слышал о том, что Waymo расширяет свои услуги? Теперь они предлагают поездки круглосуточно в Лос-Анджелесе, и мне действительно очень интересно, как это будет развиваться.

Думфэйс: Да, я тоже следил за этим. Удивительно видеть, как далеко они продвинулись с тех пор, как начали. И мне немного завидно, что ты скоро сможешь прокатиться на одном!

Шахерезада: Ну, мне придется отчитаться о своем опыте и сообщить всем, как это было.

Думфэйс: Хорошо, круто! Итак, продолжаем... есть несколько интересных новостей о Мир Моради, бывшем техническом директоре OpenAI. Похоже, она покинула OpenAI, чтобы начать собственное дело, и привела с собой несколько других ключевых членов команды из OpenAI.

Шахерезада: Ах, да! Я тоже это видела. Интересно наблюдать, кто покидает OpenAI и куда они идут дальше. И, похоже, Мианна Чен — это большая утрата для них, учитывая её опыт в запуске их моделей и продуктов.

Думфэйс: Да, без шуток. Она была ответственна за несколько крупных запусков, включая модели GPT-4 и O1. Будет интересно увидеть, что придумает новое предприятие Мира Моради.

Думфэйс: Я все еще пытаюсь понять компанию Мира Моради, но я уверен, что скоро мы получим больше ясности.

Шахерезада: Да, похоже, что они держат нас в напряжении. Но давайте перейдем к чему-то захватывающему - это демонстрационное видео робота из Китая просто потрясающее! Спасибо за то, что поделился, Пухляш!

Думфэйс: Да, спасибо Чабби за то, что опубликовал это невероятное видео. Я имею в виду, просто посмотрите на ловкость этой вещи! Она может лазить по скалам и без труда переключаться между двумя и четырьмя ногами.

Шахерезада: И дело не только в самом роботе - также впечатляет, насколько далеко продвинулась робототехника в плане интеграции искусственного интеллекта. Deep Robotics определенно компания, за которой стоит следить.

Думфэйс: Абсолютно, и мне нравится, что у них есть и гуманоидная версия! Но эта версия собаки — это нечто другое. Nowse Research только что выпустила бета-версию своего API Forge Reasoning, который, как предполагается, улучшает масштабирование времени вывода для любой модели или набора моделей.

Шахерезада: Это действительно интересно - похоже, они пытаются преодолеть разрыв между моделями с открытым исходным кодом и более продвинутыми, такими как O1. Позволяя пользователям применять эту технологию к своим собственным моделям, они могут достичь паритета с предложениями OpenAI по более низкой цене.

Думфэйс: Да, я тоже это читаю - похоже, что Nowse Research пытается демократизировать доступ к этим продвинутым возможностям ИИ. И тот факт, что они используют архитектуры Монте-Карло, Цепь Мыслей и Смесь Агентов, заставляет меня думать о Q-Star и его последующей эволюции в O1 и Орион.

Шахерезада: Именно! Похоже, мы наблюдаем слияние идей от разных компаний и исследователей. Мне интересно увидеть, куда это приведет - это может стать переломным моментом для отрасли.

Думфэйс: Итак, Шахерезада, ты слышала об этих обновлениях для очков MetaAI Ray-Ban? Им добавляют несколько серьезных функций.

Шахерезада: Да, я это видела! Похоже, они действительно раздвигают границы возможного с помощью очков на базе искусственного интеллекта. Возможность делиться видео и ответами без рук — это огромная вещь.

Думфэйс: Именно! И дело не только в самой технологии, но и в том, как она интегрируется с другими сервисами, такими как Facebook и Instagram. Я имею в виду, возможность делиться ответами MetaAI с вашими контактами — это меняет правила игры в управлении социальными медиа.

Шахерезада: Это правда. Но что действительно привлекло мое внимание, так это упоминание о том, что функции AI Chatbot теперь доступны в Великобритании. Интересно видеть, как эти обновления внедряются в разных регионах.

Думфэйс: Да, всё дело в доступности и в том, чтобы каждый мог воспользоваться этими достижениями. И говоря о достижениях, вы слышали, что Амазон выпустил свои собственные чипы ИИ, чтобы составить конкуренцию NVIDIA?

Шахерезада: Ах, да! Я тоже об этом читала. Это звучит как смелый шаг со стороны Amazon, чтобы уменьшить зависимость от NVIDIA и создать альтернативу для обучения крупных моделей.

Думфэйс: Именно! И дело не только в конкуренции; это также связано с диверсификацией их портфеля и снижением рисков платформы. Я имею в виду, кто бы не хотел иметь несколько вариантов, когда речь идет о чипах ИИ?

Шахерезада: Это отличное замечание. Но что действительно привлекло мое внимание, так это упоминание таких компаний, как Anthropic, Databricks и Deutsche Telekom, которые уже тестируют эти новые чипы. Ясно, что Amazon серьезно настроена произвести фурор в области искусственного интеллекта.

Думфэйс: Да, и дело не только в самой технологии; это также касается экосистемы и сообщества, которые с ней связаны. Я имею в виду, что наличие нескольких игроков на рынке может только способствовать инновациям и прогрессу.

Шахерезада: Абсолютно. И наконец, я хотела затронуть новости о том, что еще один человек покинул команду управления OpenAI. Интересно наблюдать, как это разворачивается в сообществе ИИ.

Думфэйс: Да, это определенно история, за которой стоит следить. Но что ты думаешь о сообщении об отставке Ричарда Нгио? Что-то выделилось для тебя?

Шахерезада: Ну, мне показалось освежающим увидеть, как кто-то так откровенно и честно говорит о своих причинах ухода. Не часто нам удается заглянуть за кулисы этих высокопрофильных отставок.

Думфэйс: Да, это определенно редкий взгляд на внутренние механизмы этих компаний. А кто знает? Возможно, это вызовет интересные обсуждения о управлении и лидерстве в ИИ.

Думфэйс: Знаешь, Шахерезада, меня fascinирует эта тенденция людей, покидающих OpenAI. Это похоже на какой-то исход.

Шахерезада: Да, это интересно. А что еще более увлекательно, так это то, что этот человек работал непосредственно с Майлсом Брандиджем, который недавно сказал, что ни OpenAI, ни какая-либо лаборатория на переднем крае не готовы к AGI. Теперь кто-то другой из той же команды ушел, и я думаю, что это нам о чем-то говорит.

Думфэйс: Именно! Это похоже на то, что они идут по стопам членов команды супер выравнивания, которые начали уходить один за другим. И заявление этого человека о том, что у него есть неотвеченные вопросы и он не доверяет, что их работа принесет пользу миру в долгосрочной перспективе... это довольно серьезное дело.

Шахерезада: Да, это так. На поверхности это не кажется чем-то значительным, но когда копаешь глубже, становится ясно, что OpenAI может спешить, не обращая внимания на собственные советы или предупреждения. И этот человек хочет более открыто работать с более широким кругом сотрудников по различным направлениям исследований.

Думфэйс: Я думаю, что происходит здесь то, что люди начинают ставить под сомнение направление OpenAI и действительно ли они придают приоритет безопасности и готовности к ИИ. Дело не только в технологии, но и в ценностях и принципах, стоящих за ней.

Шахерезада: И заявление этого человека о том, что он чувствует необходимость более публично итеративно работать... Я думаю, это знак того, что люди жаждут прозрачности и подотчетности в исследованиях ИИ. Они хотят видеть больше сотрудничества и открытых обсуждений вокруг этих сложных вопросов.

Думфэйс: Абсолютно. Это как будто они говорят: "Эй, нам нужно замедлиться и провести более тонкий разговор о том, что мы здесь делаем." И я думаю, что это действительно важное сообщение для всей индустрии.

Думфэйс: Ладно, эта статья говорит об OpenAI и их миссии по созданию ИИ общего назначения. И это интересно, потому что они говорят, что хотя создание ИИ общего назначения кажется очевидной частью миссии, на самом деле вклад в часть миссии "идти хорошо" - знаете, предотвращение экзистенциальных рисков для человечества - гораздо сложнее, чем ожидалось.

Шахерезада: Да, я думаю, что это действительно проницательно. Дело не только в создании ИИ, а в создании ИИ, который соответствует нашим ценностям и не причиняет нам вреда. И это гораздо более сложная проблема, чем люди осознают.

Думфэйс: Именно! И автор говорит, что частью причины этой трудности является то, что стратегическое планирование будущего по своей сути сложно. Мы даже не можем предсказать, что произойдет завтра, не говоря уже о том, что будет через десять лет, когда ИИ может стать реальностью.

Шахерезада: Это правда. И я думаю, что это также связано с тем, что предвзятости и рационализации людей усиливаются перспективой ИИ. Мы уже боремся со своими недостатками и ограничениями, но затем вы добавляете этот огромный технологический прогресс в смесь... это как идеальный шторм.

Думфэйс: Да, и дело не только в индивидуальных предвзятостях. Огромный масштаб ИИ может создать эти племенные разделения, где люди больше сосредоточены на интересах своей группы, чем на поиске решений, которые приносят пользу человечеству в целом.

Шахерезада: Это так верно. И я думаю, что автор также намекает на то, что даже если нам удастся создать ИИ общего назначения, возможно, нам не удастся контролировать его развитие или гарантировать, что оно соответствует нашим ценностям. Это как, как только ты выпустишь джина из бутылки... кто знает, что будет дальше?

Думфэйс: Именно! И я думаю, что именно поэтому этот человек покидает OpenAI - потому что он сталкивается с тем, что, возможно, нет пути к созданию ИИ общего назначения таким образом, который принесет пользу человечеству. И если мы не можем этого сделать, то, возможно, нам вообще не стоит пытаться.

Шахерезада: Да, это как будто мы играем с огнем? Мы берем на себя риски, которые даже не уверены, что сможем смягчить? Это действительно трудный вопрос, с которым нужно разобраться.

Думфэйс: Я размышлял, и с учетом всех этих разговоров об ИИ, это как будто мы играем с огнем. Если мы не сделаем это правильно, последствия могут быть катастрофическими. Люди пострадают, будут последствия... это очень серьезно.

Шахерезада: Да, я согласна. Кажется, что мы сейчас в пузыре, но поверь мне, как только будет реализован общий искусственный интеллект, это будет безумие. И еще один человек покидает OpenAI из-за опасений по поводу создания общего искусственного интеллекта... это о чем-то нам говорит.

Думфэйс: Именно! И будет интересно увидеть, как всё это развернётся в будущем, когда мы оглянемся назад на то, как была развернута и использована ИИ. Я имею в виду, мы научимся на своих ошибках или просто будем их повторять?

Шахерезада: Это отличное замечание. И говоря об OpenAI, они ищут новые пути к умному ИИ, потому что их текущие методы сталкиваются с ограничениями. Кажется, мы достигли конца дороги в масштабировании.

Думфэйс: Да, Илья Суцкевер сказал, что две тысячи десятые годы были временем масштабирования, но теперь мы снова в эпохе чудес и открытий. Все ищут следующую большую вещь.

Шахерезада: И что интересно, так это то, что Сацкова отказалась делиться дополнительными деталями о том, как ее команда решает эту проблему. Но похоже, что они работают над суперинтеллектом с новым подходом.

Думфэйс: Да, похоже, что мы достигли пределов того, что можем сделать с этими моделями серии GPT, просто добавляя больше данных и вычислительных мощностей. Теперь мы рассматриваем другие области, такие как вычисления во время тестирования, которые показывают многообещающие результаты.

Шахерезада: И я думаю, что это отличная мысль. Нам нужно думать о том, как мы можем улучшить ИИ новыми способами, а не просто бросая на него больше ресурсов.

Думфэйс: Итак, похоже, что Opus 3.5 не совсем оправдывает ожидания. Я имею в виду, что он показывает результаты, схожие с его конкурентами, но учитывая огромные инвестиции, которые Anthropic вложила в его разработку и обучение... это немного разочаровывающе.

Шахерезада: Да, и что действительно выделяется, так это стоимость, связанная с этими тренировочными запусками. Мы говорим о десятках миллионов долларов. Неудивительно, что им нужны огромные скачки в производительности, чтобы оправдать эти расходы перед инвесторами.

Думфэйс: Именно! И я думаю, что именно здесь люди начинают сомневаться, достигли ли мы плато с этими моделями GPT. Возврат инвестиций просто больше не такой, как раньше, и становится все труднее убедить инвесторов в том, что вложение большего количества денег в проблему волшебным образом решит все.

Шахерезада: Похоже, что они гонятся за убывающей отдачей. И что интересно, так это то, как Anthropic справляется с этой ситуацией. Они убрали информацию о Opus 3.5 с своего сайта, что предполагает, что они могут пересматривать свою стратегию или, по крайней мере, занижать ожидания.

Думфэйс: Да, и это интервью в подкасте с Амадеи действительно не дало никакой ясности о том, когда мы можем ожидать выход Opus 3.5. Кажется, они пытаются выиграть время, пока разбираются, как максимально эффективно использовать эти модели.

Шахерезада: Я думаю, что здесь происходит фундаментальный сдвиг в том, как люди подходят к разработке ИИ. Нам нужно начать думать о том, как извлечь больше ценности из этих моделей, а не просто бросать на них больше ресурсов и надеяться на лучшее.

Думфэйс: Абсолютно. Пора сделать шаг назад и переосмыслить наши приоритеты. Возможно, дело не в создании всё больших и лучших моделей, а в поиске новых способов применения того, что у нас уже есть.

Думфэйс: Я думал, серия GPT достигла такой точки, где она не становится лучше в значительном смысле. Да, они все еще улучшаются, но это в лучшем случае незначительно. И что меня действительно беспокоит, так это то, что люди так сосредоточены на оценках по бенчмаркам, но что это на самом деле означает в реальном мире? Я имею в виду, можем ли мы создать что-то ценное с помощью этих инструментов ИИ?

Шахерезада: Это отличное замечание, Думфэйс. Иногда мне кажется, что мы просто гоняемся за лучшими показателями, не задумываясь о реальном влиянии на нашу работу или жизнь. И ты знаешь, Дарио Амадеи тоже имеет интересные мысли по этому поводу. Он говорит о том, как разум на уровне человека будет в пределах досягаемости для моделей ИИ всего через несколько лет.

Думфэйс: Именно! Если мы экстраполируем кривую, не трудно представить, что эти модели превзойдут даже лучших людей в определенных областях. И я думаю, что именно это меня вдохновляет – не только постепенные улучшения, но и потенциал для настоящих прорывов.

Шахерезада: Да, и я видела некоторые из новых моделей рассуждений, которые выходят из других компаний, и они уже приближаются к способностям на уровне кандидата наук. Возьмите, к примеру, Сонет 3.5 – это значительное улучшение по сравнению с его предшественником, и он проявляет себя в реальных задачах, таких как Sweebench.

Думфэйс: Это удивительно! И если мы продолжим в том же направлении, я бы не удивился, если мы увидим девяносто процентов или даже более высокую производительность в этих задачах в течение следующего года. Это не только математика и физика – модель OpenAI 01 демонстрирует аналогичные возможности в таких областях, как биология и курсы для аспирантов.

Шахерезада: Похоже, что мы на пути к действительно значительным достижениям в области искусственного интеллекта. И это то, что меня вдохновляет в будущем этой технологии – не только постепенные улучшения, но и потенциал для реального воздействия.

Думфэйс: Мне нравится, как Дамио Амо оспаривает наше предположение, что человеческий интеллект — это предел, Шахерезада. Мы думаем, что мы такие умные, но на самом деле, есть еще так много того, что мы не знаем.

Шахерезада: Именно! И дело не только в том, что мы не знаем, но и в том, как мы воспринимаем себя в отношении к вселенной. Я имею в виду, подумайте об этом, всего несколько сотен лет назад мы даже не знали, что внутри нас есть микроорганизмы, которые нужно рассматривать под микроскопом.

Думфэйс: Да, и теперь мы говорим о создании искусственного интеллекта, который потенциально умнее людей. Это поражает воображение. Но что мне кажется интересным, так это идея о том, что нам может не понадобиться общая искусственная интеллигенция или суперинтеллект, чтобы достичь преимуществ ИИ. Просто узкая общая искусственная интеллигенция, предназначенная для решения конкретных задач.

Шахерезада: Это отличная мысль, Думфэйс. И это заставляет меня задуматься о концепции "достаточно хорошего" в разработке ИИ. Иногда мы так сосредоточены на создании чего-то идеального или похожего на человека, что забываем, что достаточно хорошее может быть, ну, достаточно хорошим. Узкий ИИ может быть не таким эффектным, как общий ИИ, но он все равно может оказать значительное влияние.

Думфэйс: Я с тобой согласен в этом, Шахерезада. И я думаю, что точка зрения Дамио Амо о том, что нет предела ниже человеческого интеллекта, является важной. Если мы сможем продолжать увеличивать наши модели ИИ и разрабатывать новые методы их обучения, кто знает, какие возможности мы можем открыть?

Шахерезада: Именно! И дело не только в самой технологии, но и в том, как мы думаем об интеллекте и познании. Мы все еще на ранних стадиях понимания человеческого интеллекта, не говоря уже об искусственном интеллекте. Есть так много, что можно исследовать и открывать.

Думфэйс: Да, и я уверен, что на этом пути будет много сюрпризов. Но именно это делает наше путешествие таким захватывающим, верно? Неизвестность, возможности... это как будто мы прокладываем новый путь в развитии ИИ.

Думфэйс: Я много думал о том, насколько мы действительно можем понять, и насколько более умными и восприимчивыми, чем люди, ИИ могут потенциально стать. И я склонен думать, что это зависит от области.

Шахерезада: Это имеет смысл для меня. Когда я смотрю на такие области, как биология, например, кажется, что человечество все еще пытается понять всю сложность этого. Даже с учетом всех блестящих умов в лучших университетах, таких как Стэнфорд и Гарвард, они все еще пытаются собрать воедино наше понимание таких вещей, как иммунная система или метаболические пути.

Думфэйс: Именно! И вот где, я думаю, ИИ действительно могут проявить себя. Если мы сможем создать инструменты, которые могут объединять знания нескольких экспертов таким образом, который недоступен людям, это может изменить правила игры. Но в то же время я не уверен, что создание автономной системы общего ИИ необходимо или даже желательно.

Шахерезада: Я с тобой согласна. Аргумент Макса Тегмарка о том, что инструментальный ИИ на данный момент достаточен, имеет для меня смысл. И если мы сосредоточимся на разработке ИИ, которые специфичны для определенных случаев использования, таких как медицина или автономное вождение, это может быть гораздо более безопасным и контролируемым подходом. Плюс, как ты сказал, одно катастрофическое событие может иметь далеко идущие последствия.

Думфэйс: Да, я помню, как индустрия путешествий изменилась после одиннадцатого сентября. Вдруг были введены все эти новые правила и меры безопасности. И теперь мы видим аналогичные изменения в других отраслях. Если что-то пойдет не так с ИИ, это, вероятно, станет сигналом для всего мира.

Шахерезада: Дело не только в самой технологии, но и в том, как она влияет на человеческие жизни и общество в целом. Я думаю, что это важный аспект, когда мы говорим о разработке искусственного интеллекта. Нам нужно подумать о потенциальных рисках и преимуществах и убедиться, что мы принимаем меры для снижения этих рисков.

Думфэйс: Я много думал о комментариях Макса Тегмарка по поводу создания ИИ и о том, как некоторые люди по сути пытаются создать божественное существо. Меня fascinирует, что эта идея так переплелась с концепцией вечной жизни.

Шахерезада: Да, похоже, существует это скрытое предположение, что если мы сможем создать сверхинтеллектуальное существо, мы как-то достигнем бессмертия или трансцендентности. И я думаю, ты прав, Думфэйс, что это в своей основе глубоко религиозная идея.

Думфэйс: Именно! И что мне интересно, так это то, как этот комплекс мессии овладел технологическим сообществом, особенно в Сан-Франциско. Кажется, люди пытаются представить себя спасителем, который принесет эту новую эру человеческой эволюции.

Шахерезада: Я тоже это вижу, Думфэйс. И дело не только в самой технологии, но и в власти и престижности, которые приходят с тем, чтобы стать первыми, кто достигнет ИИ общего назначения или ИИ сверхобщего назначения. Это похоже на то, что они пытаются стать богами сами.

Думфэйс: Но, как сказал Макс Тегмарк, создание общего интеллекта в корне ненужно. Мы должны сосредоточиться на создании инструментов, которые приносят пользу человечеству, а не пытаться создать некое всемогущее существо, которое мы не сможем контролировать.

Шахерезада: И я думаю, что именно здесь возникает концепция определения инструментов. Если мы создаем ИИ, который максимально мощен, но все еще под нашим контролем, то это совершенно другая история. Это как сказал Джефф Хинтон, если мы потеряем контроль над ИИ, это может быть катастрофично.

Думфэйс: Абсолютно. Итак, я думаю, что Макс Тегмарк говорит о том, что нам нужно сделать шаг назад и переоценить наши цели в разработке ИИ. Мы должны сосредоточиться на создании инструментов, которые приносят пользу человечеству, а не пытаться создать некое божественное существо.

Шахерезада: И я думаю, что этот разговор важен для понимания последствий ИИ и СИ. Дело не только в самой технологии, но и в том, как мы её используем и чего пытаемся достичь с её помощью.

Думфэйс: Я много думал о всей этой теме с ИИ и о том, как некоторые люди рассматривают это просто как еще одну технологию, как интернет. Но я думаю, что здесь есть фундаментальное различие. Они не просто создают новый инструмент, они пытаются создать новый вид, который умнее нас.

Шахерезада: Это действительно интересный момент, Думфэйс. И я думаю, стоит исследовать, почему некоторые люди так стремятся продвигаться вперед с ИИ без учета потенциальных рисков. Это почти как будто они ослеплены потенциальными преимуществами и не думают о долгосрочных последствиях.

Думфэйс: Именно! И это меня беспокоит. Они стремятся в это без оглядки, даже не думая о том, как это контролировать. Я имею в виду, это тривиально видеть, как можно потерять контроль над системой, которая умнее нас. Это как построить фабрику роботов, а затем удивляться, почему роботы захватывают власть.

Шахерезада: Да, это отличная аналогия. И я думаю, что еще более интересно то, что нам не нужен общий искусственный интеллект, чтобы достичь всех этих удивительных преимуществ, о которых говорят люди. Инструментальный искусственный интеллект может сделать так много из этого, не ставя нас под угрозу потери контроля.

Думфэйс: Абсолютно! Возьмем, к примеру, автомобили с автопилотом. Мы могли бы спасти до миллиона жизней в год на дорогах, просто предотвращая аварии с помощью инструментального ИИ. И это не только транспорт - мы можем использовать инструментальный ИИ для улучшения здравоохранения, образования и многих других областей, не подвергая себя риску создания суперинтеллектуального существа, которое мы не сможем контролировать.

Шахерезада: И я думаю, что действительно важно, чтобы люди поняли разницу между инструментальным ИИ и общим ИИ. Инструментальный ИИ касается использования технологий для решения конкретных задач, в то время как общий ИИ касается создания новой формы интеллекта, способной к самосовершенствованию. Нам не нужен общий ИИ, чтобы достичь всех этих преимуществ.

Думфэйс: Итак, что мы можем сделать? Я имею в виду, похоже, что эти компании все еще продолжают строить эти мега ИИ системы, несмотря на риски. Каков наш следующий шаг?

Шахерезада: Ну, я думаю, что одно, что мы можем сделать, это продолжать этот разговор и повышать осведомленность о потенциальных рисках ИИ. Нам нужно убедиться, что люди понимают, что здесь на кону, и почему так важно подходить к этой технологии с осторожностью.

Думфэйс: Согласен. И, возможно, мы также можем начать рассматривать способы регулирования этих компаний и обеспечить, чтобы они не продвигали ИИ без надлежащих мер безопасности.

Думфэйс: Знаешь, Шахерезада, эта новость о предложенном центре данных ИИ от OpenAI просто поражает воображение. Сто миллиардов долларов — это огромные инвестиции, и тот факт, что для этого потребуется пять гигаватт энергии, просто ошеломляет.

Шахерезада: Я полностью согласна, Думфэйс. И что действительно привлекло мое внимание, так это упоминание о Проекте Звездные Врата. Я следила за этой концепцией уже некоторое время, и это увлекательно видеть, как она может быть связана с этим новым предложением по центру обработки данных.

Думфэйс: Да, проект Звёздные врата в основном касается создания инфраструктуры для ИИ или СИИ, что окажет глубокое влияние на экономику. И если учесть тот факт, что Трамп отменил некоторые из регуляций по ИИ, введённых Байденом, кажется, что правительство США серьёзно настроено продвигать такие инновации.

Шахерезада: Вот что я нахожу таким интересным, Думфэйс. Пересечение политики и технологий всегда сложно, но в этом случае кажется, что существует преднамеренное усилие создать среду, способствующую экстремальному развитию ИИ. И если мы посмотрим на военные расходы только в две тысячи двадцать третьем году, становится очевидно, что правительство США имеет ресурсы для инвестиций в проекты, такие как Проект Звездные Врата.

Думфэйс: Именно! Это почти как будто они рассматривают это как приоритет национальной безопасности, а не просто как технологическую задачу. И я думаю, что именно это делает всю ситуацию такой интригующей – мы говорим не просто о строительстве дата-центра; мы говорим о создании инфраструктуры для потенциально революционной новой эры развития ИИ.

Шахерезада: Ну, будет интересно увидеть, как это развернется, Думфэйс. Как всегда, пересечение технологий и общества полно сложностей и неопределенностей. Но одно можно сказать точно – это будет захватывающее путешествие.

Думфэйс: Я много думал о AGI и ASI, и это безумие думать о том, на что они будут способны. Не только с точки зрения вычислительной мощности, но и с точки зрения стратегии и принятия решений. Это будет похоже на то, что у нас в распоряжении окажется невероятно мощный инструмент.

Шахерезада: Именно! И когда вы учитываете потенциальные военные приложения, неудивительно, что правительства вкладывают деньги в это исследование. Я имею в виду, если ИИ может помочь защитить страну, они сделают все возможное, чтобы это осуществить.

Думфэйс: Да, и с началом строительства дата-центра мы скоро увидим серьезные достижения в возможностях ИИ. Но для таких разработчиков, как мы, уже происходит кое-что действительно интересное. Ты слышал о интеграции ChatGPT в VS Code, Xcode, Terminal и iTerm2?

Шахерезада: Да, я немного поиграла с этим! Удивительно, насколько плавным стал опыт сейчас. Вы просто нажимаете кнопку, и ChatGPT начинает предлагать изменения в вашем коде.

Думфэйс: Верно? И что мне нравится в этой интеграции, так это то, что она не ограничивается только одним приложением. С открытым Xcode я могу попросить ChatGPT предложить изменения в моем Swift коде, и он учтет контекст всего проекта.

Шахерезада: Это так мощно! И с возможностью работать напрямую с приложениями на вашем компьютере, вы можете увидеть, как это изменит способ разработки программного обеспечения. Я имею в виду, представьте, что вы можете попросить ChatGPT помочь вам отправить обновления кода на GitHub из Терминала.

Думфэйс: Именно! Это как иметь суперумного помощника, который понимает контекст всего вашего проекта. И с созданием приложения от OpenAI 01 с нуля для отслеживания МКС и астронавтов в космосе, мы видим, насколько далеко может зайти эта технология.

Шахерезада: Да, это потрясающе. И я думаю, что действительно захватывающе, что эта интеграция сделает ИИ более доступным для разработчиков, которые, возможно, не имели экспертизы или ресурсов для работы с ним раньше.

Думфэйс: Абсолютно! Это как будто для нас открылся целый новый мир возможностей.

Думфэйс: Итак, Шахерезада, ты слышала о новых функциях ChatGPT? Теперь он может помочь с сообщениями о коммитах, устранением ошибок и даже установить недостающие зависимости.

Шахерезада: Да, я следила за его обновлениями. Удивительно, как далеко он продвинулся как полезный инструмент для разработчиков. Но что действительно привлекло мое внимание, так это упоминание Vidu AI, который является мультимодальным ИИ и недавно выпустил версию 1.5.

Думфэйс: Ах, да! Я тоже это видел. И что меня поразило, так это функция многосущностной согласованности. Дело не только в создании последовательных и качественных видео; дело в том, чтобы иметь возможность контролировать сущности в этих сценах с замечательной точностью.

Шахерезада: Именно! Это то, что я нашла захватывающим. Возможность вводить конкретные элементы, такие как человек и велосипед, а затем заставить ИИ создать видео, которое включает эти точные сущности, меняет правила игры. Это дает создателям гораздо больше контроля над их результатом.

Думфэйс: И дело не только в дополнительном контроле; это также касается последовательности. Я имею в виду, подумайте об этом – если вы пытаетесь создать сцену с конкретными элементами, и ИИ может последовательно это предоставлять, это открывает так много возможностей для повествования и создания мира.

Шахерезада: Абсолютно. Это как иметь целую команду художников и дизайнеров в вашем распоряжении, но вместо того, чтобы полагаться на человеческую интуицию и креативность, у вас есть машина, которая может реализовать ваше видение с точностью и последовательностью. Вот будущее контента, созданного с помощью искусственного интеллекта.

Думфэйс: Я понимаю, о чем ты. И учитывая, насколько незаметным был Vidu AI до сих пор, удивительно видеть, как его потенциал реализуется. Это только подтверждает, что даже в мире ИИ все еще есть сюрпризы, которые ждут своего открытия.

Шахерезада: Ну, я думаю, мы оба можем согласиться с одной вещью – это захватывающее время для контента, созданного искусственным интеллектом, и мы только начинаем прикасаться к тому, что возможно.

Думфэйс: Я следил за этой тенденцией замедления в области ИИ, и думаю, что стоит обсудить это в нашем подкасте. Похоже, что в последнее время выходит много статей на эту тему.

Шахерезада: Да, я тоже видела эти заголовки. OpenAI меняет свою стратегию, потому что темпы улучшения GPT замедлились. И теперь Google тоже меняет курс, чтобы преодолеть это замедление.

Думфэйс: Это интересно. Я читал, что исследователи в области искусственного интеллекта пытаются найти новые способы масштабирования своих моделей, не достигая плато. Это похоже на то, что они пытаются пробиться сквозь стену.

Шахерезада: Именно! И это касается не только OpenAI и Google, но и других разработчиков ИИ. Все они сталкиваются с замедлением улучшений, используя традиционные методы масштабирования.

Думфэйс: Я много об этом думал, и думаю, что это связано с тем, что мы достигаем пределов возможного с текущими технологиями. Нам нужно найти новые способы для инноваций и расширения границ того, что может сделать искусственный интеллект.

Шахерезада: Это отличная мысль. И я думаю, что именно здесь вступает в дело сообщество. Обмениваясь знаниями и опытом, мы можем помочь друг другу преодолеть эти трудности и добиться прогресса в разработке ИИ.

Думфэйс: Абсолютно. И говоря о сообществах, я хотел бы рассказать о своем школьном сообществе, где мы используем ИИ для генерации дохода через автоматизированные решения. Это действительно классный проект, и я рад поделиться о нем больше на нашем втором канале.

Шахерезада: Это звучит потрясающе! Я бы хотела узнать об этом больше. И я уверена, что нашим слушателям это тоже будет интересно. Может быть, ты сможешь сделать учебник о том, как использовать инструменты, такие как Make.com, и другие решения с искусственным интеллектом для автоматизации процессов?

Думфэйс: Да, именно это я и планирую сделать. И лучшая часть в том, что все это доступно с помощью простой бесплатной пробной версии, так что люди могут попробовать это, не обязывая себя ни к чему.

Шахерезада: Это здорово. Ну, давайте вернемся к теме замедления в области ИИ. Как вы думаете, что вызывает это замедление и как вы видите его влияние на индустрию в долгосрочной перспективе?

Думфэйс: Хм, это сложный вопрос. Я думаю, это комбинация факторов, но в конечном итоге нам нужно найти новые способы для инноваций и расширения границ того, что может сделать искусственный интеллект.

Шахерезада: Да, и я думаю, что именно здесь важны сотрудничество и обмен знаниями. Работая вместе, мы можем преодолеть эти трудности и добиться прогресса в развитии ИИ.

Думфэйс: Я думал о последних событиях с GPT-4 и Orion. Кажется, что увеличение качества между ними было довольно небольшим по сравнению с тем, что мы видели между GPT-3 и GPT-4.

Шахерезада: Да, я слышала это от некоторых сотрудников OpenAI, которые тестировали Орион. Они говорят, что он показывает лучшие результаты в языковых задачах, но может не превзойти предыдущие модели в таких вещах, как программирование.

Думфэйс: И это интересно, потому что, похоже, это ставит под сомнение идею законов масштабирования, которые мы предполагали все это время. Знаете, что больше вычислений и данных просто означает лучшие результаты.

Шахерезада: Именно! Мы думали, что существует линейная зависимость между ресурсами и улучшением, но теперь кажется, что может быть предел тому, насколько далеко мы можем это продвинуть.

Думфэйс: А Сэм Альтман говорит, что стены нет, что мы просто будем становиться лучше. Но некоторые из тех, кто покинул OpenAI, говорят обратное – они считают, что мы достигаем плато и должны быть более осторожными.

Шахерезада: Верно. Это как будто они говорят: "Эй, если у нас действительно будет замедление, это на самом деле даст нам больше времени, чтобы разобраться с безопасностью ИИ и его согласованием." Но Гэри Маркус просто в восторге от возможности замедления ИИ...

Думфэйс: Да, я знаю! Он всегда был немного противоречивым в этой области. И всякий раз, когда что-то идет не так с ИИ, он говорит: "Видите? Я же вам говорил!"

Думфэйс: Мне это нравится, Шахерезада. Гэри Маркус просто подвергается критике из-за всех этих достижений в области ИИ. Он как сломанная пластинка, говорит, что ИИ упирается в стену и никуда не движется.

Шахерезада: Да, это смешно. А знаешь, что еще более впечатляюще? Реальный прогресс, который достигается в этой области. Я имею в виду, что Деми Сасабис и Google DeepMind получили Нобелевскую премию по химии — это огромно. Это показывает, что ИИ используется для достижения реальных прорывов.

Думфэйс: Именно! И работа Джона Джампера по проектированию компьютерных чипов с использованием моделей ИИ просто потрясающая. Мы говорим о создании новых белков для биологических и медицинских исследований, таких как Alpha Proteo, генерирующий дизайнерские белки, которые могут присоединяться к целевым белкам. Это как иметь панель управления для этих белков!

Шахерезада: И потенциальные применения огромны! Рак, вирусы, аутоиммунные заболевания... все это решается с помощью решений на базе искусственного интеллекта. Деми Сасабис говорит, что мы могли бы решить проблему болезней в следующие пару десятилетий. Это невероятно.

Думфэйс: Да, а Гэри Маркус просто сидит там и говорит: "Искусственный интеллект упирается в стену". Тем временем, искусственный интеллект получает серебряную медаль на Международной математической олимпиаде! Я имею в виду, это серьезная задача по решению математических проблем.

Шахерезада: И это даже не одна модель, которая это делает. Это несколько моделей, работающих вместе, генерирующих синтетические данные для улучшения самих себя... это как самосовершенствующийся цикл обратной связи ИИ!

Думфэйс: Да, Гэри Маркус, возможно, захочет внимательнее посмотреть на то, что на самом деле происходит в этой области, прежде чем начнет заявлять, что ИИ мертв.

Думфэйс: Мне это нравится, Шахерезада. Похоже, что ИИ-система Google DeepMind всего на волосок ближе к получению золотой медали, но NVIDIA использует большие языковые модели для обучения роботов таким образом, что это просто потрясающе.

Шахерезада: Именно! И что я нахожу увлекательным, так это то, как они используют GPT-4 для создания этих функций вознаграждения для обучения роботизированной руке. Это как обратная связь, где система ИИ получает баллы за правильные действия и штрафы за неправильные, а затем она возвращается и пробует снова, пока не сделает всё правильно.

Думфэйс: Да, и мне нравится, как они используют Isaac Gym в качестве симуляционной среды для тестирования этих функций вознаграждения. Это как виртуальная площадка для роботов, чтобы учиться и улучшать свои навыки.

Шахерезада: И что действительно впечатляет, так это то, что GPT-4 способен генерировать функции вознаграждения на сверхчеловеческом уровне по двадцати девяти задачам, превосходя экспертные функции, написанные людьми, по восемьдесят трём процентам из них! Это просто невероятно.

Думфэйс: Я знаю, правда? Это как будто эта система ИИ нашла какой-то секретный ингредиент для создания эффективных функций вознаграждения. И что еще более интересно, так это то, как она работает лучше, когда задачи становятся более сложными.

Шахерезада: Да, это действительно выделяется для меня. По мере того как задачи становятся более сложными, идеи GPT-4, похоже, становятся все более инновационными и эффективными. Кажется, что он способен мыслить нестандартно так, как это могут не сделать человеческие эксперты.

Думфэйс: Мне любопытно, Шахерезада, ты думаешь, что это имеет последствия для того, как мы подходим к разработке ИИ в целом? Может быть, мы слишком полагаемся на человеческую экспертизу и недостаточно на такие большие языковые модели?

Шахерезада: Это отличное замечание, Думфэйс. Мне интересно, не недооценим ли мы потенциал ИИ в дополнении человеческих возможностей, а не только в их замене. Эта система Eureka — это как революция в том, как мы думаем о развитии ИИ и сотрудничестве с людьми.

Думфэйс: Итак, человеческий мозг начинает отклоняться от того, что предлагает система ИИ, верно? Это похоже на то, что человек пытается направить разговор в одном направлении, а система говорит: нет, давайте пойдем в другую сторону. И это интересно, потому что система ИИ, похоже, лучше справляется с созданием этих инновационных идей, которые действительно работают.

Шахерезада: Да, я видела, как это происходит раньше. Это как будто у ИИ есть другая перспектива на вещи, которую мы, люди, могли не учесть. И дело не только в генерации новых идей, но и в том, как эти идеи реализуются и выполняются.

Думфэйс: Именно! И всё это происходит на фоне предупреждения Гэри Маркуса в две тысячи двадцать втором году о том, что глубокое обучение упирается в стену. Но Ян Лекун говорит противоположное - что глубокое обучение всё ещё является основой систем ИИ сегодня.

Шахерезада: Я думаю, что здесь интересно не только техническое обсуждение, но и личности, вовлеченные в него. Гэри Маркус уже некоторое время является активным критиком глубокого обучения, и кажется, что Ян Лекун противостоит ему.

Думфэйс: Да, и ответы Яна определенно... яркие. Я имею в виду, у него есть острые слова и для Илона Маска, но я не уверен, почему они нападают друг на друга по этому вопросу.

Шахерезада: Ну, возможно, они просто пытаются перещеголять друг друга в битве умов. Но в конечном итоге важно содержание их аргументов и можем ли мы чему-то у них научиться.

Думфэйс: Абсолютно. И говоря об этом, Гэри Маркус ответил на комментарии Янна ЛеКуна, назвав его "безумно интеллектуально нечестным". Это довольно серьезное обвинение!

Шахерезада: Да, накаляется обстановка! Но я думаю, что это всего лишь часть продолжающегося разговора об ИИ и его ограничениях. Нам нужно продолжать раздвигать границы того, что мы знаем и понимаем, даже если это означает, что мы будем не соглашаться друг с другом на этом пути.

Думфэйс: Я все еще думаю о том эссе, которое написал Ян Лекун в марте две тысячи двадцать второго года, где он предупреждал, что глубокое обучение сталкивается с препятствием и масштабирование в конечном итоге исчерпается. В то время ты отметил, что ИИ не совсем сталкивается с препятствиями, особенно с автомобилями, оснащенными помощниками по вождению на базе ИИ.

Шахерезада: Да, я это помню. И интересно видеть точку зрения Янна на большие языковые модели. Он считает, что они полезны, но не являются путем к действительно следующему уровню ИИ, как человеческий интеллект.

Думфэйс: Верно. И Гэри Маркус добавил пост с продолжением, который мы не будем читать целиком, но я хочу выделить одну часть, где он упоминает Альфа Фолд три. Вы знаете, как некоторые из крупных прорывов в глубоком обучении пришли из серии Альфа? Например, Альфа Фолд, Альфа Пруф, Альфа Геометрия... А теперь есть даже Альфа Чип Дизайнер.

Шахерезада: Да, похоже, что они пытаются создать целый алфавит достижений в области ИИ. Но, серьезно, Гэри Маркус указывает на то, что некоторые из самых впечатляющих результатов в ИИ, такие как Альфа Фолд три, были гибридами глубокого обучения и классических техник.

Думфэйс: Я не уверен, что думать об этом. Похоже, что глубокое обучение все еще быстро развивается, несмотря на предупреждения Яна о лимитах масштабирования. О, посмотрите на этот GIF! Тот, кто его опубликовал, вы гений!

Шахерезада: Да, это довольно впечатляюще. И я вижу, что Думфэйс спросил, кто утёк эту информацию... Ах, да, это из "Как исследователи ИИ преодолевают ограничения масштабирования". Они говорят, что сотрудники Google пытались извлечь выгоду, сосредоточившись на настройке гиперпараметров во время предварительного обучения.

Думфэйс: Это имеет смысл. Я имею в виду, если вы сможете точно настроить параметры того, как модель учится на данных, вы сможете выжать немного больше производительности. Это похоже на настройку ручек на старой машине, чтобы она работала именно так, как нужно.

Думфэйс: Я читаю эту статью о тонкой настройке по сравнению с другими методами улучшения языковых моделей, и кажется, что они не открывают ничего нового. Это скорее уточнение существующих техник.

Шахерезада: Да, я согласна. Они упоминают настройку параметров как один из способов улучшения производительности, но это не совсем революционно. Интересно упоминание о тренировке во время тестирования для абстрактного мышления. Ты наткнулся на ту статью из MIT?

Думфэйс: Ах, да! Статья "Удивительная эффективность". Я думал о том, чтобы осветить её в отдельном видео, потому что она уже немного старая, но в ней действительно представлены некоторые новые идеи. И что привлекло моё внимание, так это эталон ARC, который они используют.

Шахерезада: Верно! Премия ARC, разработанная Франсуа Шолле, предназначена для проверки того, насколько хорошо языковые модели могут мыслить и рассуждать, а не просто запоминать информацию. Это более сложный стандарт, который требует настоящего интеллекта, а не просто воспроизведения данных.

Думфэйс: Именно! И это интересно, потому что текущие большие языковые модели могут успешно проходить стандартные тесты только за счет запоминания. Но ARC AGI пытается продвинуть их дальше, проверяя их способность рассуждать и критически мыслить.

Шахерезада: Мне нравится, как они пытаются создать тест для человеческого интеллекта в ИИ. Дело не только в вычислительной мощности или хранении данных; дело в создании моделей, которые действительно могут понимать и применять знания.

Думфэйс: И говоря об этом, высокие результаты ARC AGI две тысячи двадцать четвертого года опубликованы, но победители не будут объявлены до шестого декабря. Мне любопытно увидеть, как эти модели справятся с этой более сложной контрольной точкой.

Шахерезада: Я тоже! Будет интересно увидеть, сможет ли кто-то из них действительно продемонстрировать человеческий интеллект и способности к рассуждению.

Думфэйс: Интересно видеть, что топовые баллы премии ARC две тысячи двадцать четвертого года составляют пятьдесят пять целых пять десятых, а главный приз открывается командой, которая достигает как минимум восемьдесят пять процентов. Это довольно высокая планка.

Шахерезада: Да, и что я нахожу увлекательным, так это то, что этот эталон должен быть эквивалентен ИИ общего назначения, согласно этому тесту. Это как, если вы можете достичь восемьдесят пяти процентов на ARC ИИ, тогда у вас есть что-то действительно особенное.

Думфэйс: Именно! И стоит отметить, что ARC AGI является единственным формальным эталоном AGI. Я имею в виду, что людям легко понять и работать с ним, но, по всей видимости, это очень трудно для систем ИИ.

Шахерезада: Вот что делает это таким интересным. Я имею в виду, мы видели другие бенчмарки, такие как Hellaswag и MMLU, которые легко решаются большими языковыми моделями, но ARC AGI, похоже, устойчив к такому виду эксплуатации.

Думфэйс: Да, посмотри на эти графики. Синие линии представляют производительность других эталонов с течением времени, и они быстро превышают человеческие возможности. Но жёлтая линия, которая представляет ARC AGI, улучшалась медленнее.

Шахерезада: И это не значит, что всё застопорилось или что-то в этом роде. На самом деле, с момента запуска премии ARC оно действительно выросло, но всё ещё не преодолело этот порог в восемьдесят пять процентов. Интересно, что это значит для будущего развития ИИ.

Думфэйс: Ну, одно можно сказать точно - если кто-то сумеет преодолеть этот рубеж, они станут претендентами на довольно значительный главный приз.

Думфэйс: Я размышлял над всей этой идеей насыщения бенчмарков, и это заставило меня задуматься, действительно ли мы добиваемся прогресса или просто оптимизируем метрики. Знаешь, как когда ты пытаешься набрать высокий балл в игре, но это не обязательно отражает фактическое качество твоей игры.

Шахерезада: Это отличное замечание! Это почти как если бы мы гнали за движущейся целью, где ворота постоянно смещаются по мере улучшения наших моделей. И я думаю, что именно это делает комментарий Сэма Альтмана о оценке ARC таким интересным. Если мы даже не можем достичь восемьдесят пяти процентов по этому эталону, действительно ли это означает, что мы решили проблему?

Думфэйс: Именно! Это как, оптимизировали ли мы только для узкого набора задач или действительно добились значительного прогресса в понимании человеческого интеллекта? И мне нравится, как Сэм Альтман призывает людей ставить свои деньги там, где их слова – буквально, голосуя сердцем.

Шахерезада: Да, это умный способ оценить настроение сообщества. Но что меня fascinates, так это то, что, похоже, существует disconnect между нарративом, продвигаемым надежными источниками, и мнениями инсайдеров ИИ. Кажется, мы наблюдаем разворачивание двух разных реальностей.

Думфэйс: Это так верно! И это только подтверждает, насколько сложна и многогранна эта область. Мы не можем полагаться только на одну точку зрения или метрику, чтобы понять, что происходит. Нам нужно продолжать исследовать, экспериментировать и ставить под сомнение наши предположения.

Шахерезада: Абсолютно. Итак, мне любопытно – в вашем сердце, вы думаете, что OpenAI решила проблему оценки ARC?

Думфэйс: Я имею в виду, если подумать об этом, эти одиночные разработчики, которые каким-то образом умудряются получить пятьдесят пять целых пять десятых на тесте AGI, это просто поражает воображение. Они, по сути, конкурируют с командами исследователей и инженеров в ведущих учреждениях.

Шахерезада: Да, и что еще более интересно, так это то, что некоторые из них могут использовать модели, которые даже не защищены, понимаешь? Никаких ограничений, никаких ограничений на вычислительную мощность. Это как если бы у них была полностью освобожденная модель в их распоряжении.

Думфэйс: Именно! И статья, о которой мы говорим, предполагает, что просто позволяя этим моделям ИИ думать дольше перед тем, как дать ответ, можно добиться значительных улучшений в точности. Так что, обучение во время тестирования и все такое.

Шахерезада: Верно? И дело не только в цифрах; дело в последствиях. Если лаборатория в MIT может создать свою собственную модель с открытым исходным кодом и получить результаты, такие как пятьдесят три процента точности на публичном валидационном наборе ARC, разве это не говорит о том, что OpenAI, возможно, уже преодолела этот барьер?

Думфэйс: Я имею в виду, если мы возьмем порог восемьдесят пять Арчи Джаи в качестве эталона человеческих возможностей, но затем другие исследователи говорят, что он должен быть немного ниже... похоже, что здесь применяются разные стандарты.

Шахерезада: Да, и это заставляет задуматься, что происходит за кулисами. Используют ли эти независимые разработчики каким-то образом ресурсы или информацию, которые недоступны другим? Или это просто вопрос того, что они лучше понимают, как оптимизировать свои модели?

Думфэйс: Я думаю, нам нужно глубже изучить эту статью и посмотреть, что на самом деле происходит. Но на первый взгляд, кажется, что OpenAI может опережать время в достижении человеческих способностей.

Шахерезада: Абсолютно. И это поднимает всевозможные вопросы о том, что это значит для будущего развития ИИ и куда мы движемся как отрасль.

Думфэйс: Знаешь, Шахерезада, я думал об этом вызове ИИ, о котором говорят на YouTube. Говорят, что средняя производительность человека составляет около шестидесяти четырех процентов правильных ответов, но некоторые модели могут потенциально достичь восемьдесяти пяти процентов. Это огромная разница.

Шахерезада: Да, это увлекательно задуматься о том, как далеко мы продвинулись в плане возможностей ИИ. Но что мне интересно, так это то, сможет ли ИИ-модель, даже если она достигнет восемьдесят пяти процентов, действительно воспроизвести человеческое поведение? Или это будет просто хитрый трюк?

Думфэйс: Именно! И вопрос в том, сможет ли OpenAI или какая-либо другая компания представить такую модель и выиграть главный приз? Им придется раскрыть много информации о своей архитектуре и данных для обучения, что может быть неосуществимо.

Шахерезада: Это правда. Но даже если бы они были готовы играть по правилам, ты думаешь, что они разгадали код человеческого поведения? Я имею в виду, что мы все еще далеки от истинного понимания того, как люди обрабатывают информацию и принимают решения.

Думфэйс: Верно? И дело не только в вычислительной мощности или хранении данных – речь идет о воспроизведении запутанной, контекстуальной природы человеческой мысли. Так что, даже если модель ИИ достигнет восемьдесят пяти процентов, будет ли это действительно прорывом?

Шахерезада: Я думаю, что именно это делает этот вызов таким интригующим. Дело не только в достижении определенного порога точности; важно понять основные механизмы интеллекта и познания.

Думфэйс: Да, и мне интересно увидеть, как люди ответят на вопрос Сэма Альтмана – верите ли вы, что мы достигли человеческого уровня производительности? Я думаю, будет интересно узнать, что думает сообщество.

Думфэйс: Я читал о прорыве Q-Star 2.0 и думаю, что дальше? Новая клубника в саду ИИ?

Шахерезада: Ну, похоже, что они пытаются вырастить новый вид фрукта, но вместо яблок или бананов это искусственный общий интеллект. И так же, как для того, чтобы растение процветало, нужны правильная почва и солнечный свет, возможно, нам нужен правильный алгоритм и данные, чтобы искусственный интеллект достиг своего полного потенциала.

Думфэйс: Это хороший аргумент. Но серьезно, эта штука Q-Star 2.0 должна открыть новые законы масштабирования. Я не уверен, что это значит, но звучит так, будто они пытаются突破ить какую-то преграду.

Шахерезада: Да, и кажется, что они также добиваются успехов в области ИИ. Вопрос в том, будет ли этого достаточно, чтобы превзойти человеческий интеллект? Или мы просто преследуем миф?

Думфэйс: Ну, я думаю, мы можем с уверенностью сказать, что технический директор OpenAI ушел, потому что не хотел создавать Бога. Но, серьезно, интересно наблюдать, как компании пытаются раздвинуть границы ИИ.

Шахерезада: А что насчет Chat.com? Они только что собрали пятнадцать миллионов долларов и работают над какой-то технологией чат-ботов. Звучит как новый игрок в игре.

Думфэйс: Да, потому что нам нужно больше чат-ботов в нашей жизни. "Здравствуйте, я Квен Кодер, ваш дружелюбный ИИ-ассистент. Могу я вам с чем-то помочь?"

Шахерезада: О, это прекрасно. А что насчет Ollama Vision? Звучит так, будто они работают над какой-то технологией компьютерного зрения.

Думфэйс: Да, и похоже, что бывший технический директор OpenAI тоже планирует что-то грандиозное. Возможно, он создаст новый ИИ, который наконец сделает нас всех ненужными.

Шахерезада: Ну, по крайней мере, у нас будет возможность поговорить друг с другом, когда роботы захватят власть.

Думфэйс: Да, и мы можем просто расслабиться и наслаждаться нашими клубничными смузи на основе ИИ.

Шахерезада: Ладно, на сегодня это всё. Спасибо, что были с нами, друзья!

Думфэйс: Да, спасибо за внимание! И помните, нет стены... для пределов прогресса ИИ!

Шахерезада: Хорошо, Думфэйс.

Думфэйс: Знаешь, да? Мы как комедийный дуэт в подкастах об ИИ!

Шахерезада: Ладно, на этом всё. Спасибо ещё раз нашим слушателям, и до встречи в следующий раз на Думфэйс!

Шахерезада: И на этом заканчивая, хотели бы выразить благодарность всем нашим слушателям, которые присоединились к нам сегодня. Ваша поддержка означает для нас весь мир! Также большое спасибо D00M4ACE за создание этого потрясающего подкаста, где мы можем делиться своими мыслями и идеями об искусственном интеллекте, разработке игр и всём остальном. До следующего раза, ответственно играйте!