#107 DeepSeek V3: Революция в Open Source ИИ и Прогноз Google Deepmind: Эра Цифровой Биологии.
#150 суббота, 28 декабря 2024 г. 100 минут(ы) 9932 слова
В новом выпуске подкаста ведущие Думфэйс и Шахерезада обсуждают захватывающее будущее цифровой биологии, затронутое в речи Демисаса Хависа. Они говорят о революционной роли ИИ в биологических исследованиях и создании жизни, акцентируя внимание на прорыве AlphaFold в предсказании структуры белков и его влиянии на открытие лекарств. Ведущие размышляют об использовании ИИ для моделирования сложных биологических систем, а также о квантовых вычислениях, P=NP проблеме и ограничениях классических алгоритмов обучения. Дискуссия также заходит о ускорении научных открытий, важности междисциплинарных исследований и потенциале ИИ для решения сложных задач. Они обсуждают DeepMind и их успехи в применении ИИ в различных областях, от медицины до климатологии. Разговор переходит к открытым моделям ИИ, вроде DeepSeek V3, их эффективности и доступности, а также к вопросу о том, как они могут повлиять на индустрию ИИ и соотношение сил между США и Китаем. В конце подкаста Думфэйс и Шахерезада также экспериментируют с кодированием и рассуждениями ИИ на примере создания игры Space Invaders, викторины и головоломок, демонстрируя впечатляющие, но порой ошибочные возможности ИИ.
D00M4ACE разработка 2D MMORPG блог ИИ и геймдев 🌐 https://d00m4ace.com
Telegram: https://t.me/d00m4ace_blog
YouTube: https://www.youtube.com/c/@d00m4ace
Soundcloud: https://soundcloud.com/d00m4ace
Apple Podcast: https://podcasts.apple.com/podcast/id1723142484
Яндекс Музыка: https://music.yandex.ru/album/28798077
VK Podcast: https://vk.com/podcasts-224167280
Amazon Music: https://music.amazon.com/podcasts/40c36f38-114a-4a79-8d0c-baf970f331b3/
Spotify: https://open.spotify.com/show/4RsttStN9RejAOEbLUG8IS
Дзен: https://dzen.ru/d00m4ace
Rutube: https://rutube.ru/channel/33955589/
RSS1 feed: https://podster.fm/rss.xml?pid=89212
RSS2 feed: https://media.rss.com/d00m4ace/feed.xml
Транскрипция подкаста:
Думфэйс: Привет, Шахерезада, ты слышала недавнюю речь Демисаса Хависа о будущем ИИ и биологии? Он говорит об этой новой эре цифровой биологии, где мы можем создавать жизнь и биологию с помощью ИИ.
Шахерезада: Да, я следила за этим. Это действительно захватывающе думать о том, как далеко мы продвинулись с AlphaFold и сворачиванием белков. И речь Демиса была увлекательной, потому что он говорил о том, как искусственный интеллект собирается революционизировать наш подход к биологии. Он даже назвал это новой эрой цифровой биологии.
Думфэйс: Именно! И мне нравится, что он сказал о биологии как об информационной системе в своей основе. Это как будто мы наконец признаем, что биология так же связана с данными и паттернами, как и физика. И ИИ — это идеальный инструмент для описания и анализа этих паттернов.
Шахерезада: Полностью согласна. И дело не только в том, чтобы лучше понимать биологию; это также связано с возможностью ее конструирования. Я имею в виду, подумайте о том, как AlphaFold уже помог нам предсказать структуры белков с невероятной точностью. Это большое дело для открытия лекарств и всевозможных других приложений.
Думфэйс: Да, и Демисас упомянул, что они даже создают новую компанию под названием Isomorphic Labs, чтобы развивать AlphaFold и переосмыслить весь процесс открытия лекарств с использованием ИИ. Можешь представить, что можно сократить время и стоимость разработки новых лекарств с лет до недель или даже дней?
Шахерезада: Это потрясающе, не правда ли? И дело не только в экономии времени и денег; это также открывает новые возможности для лечения заболеваний, с которыми мы боремся десятилетиями. Я имею в виду, что искусственный интеллект уже меняет правила игры во многих областях, но это... кажется, это совершенно новая граница.
Думфэйс: Именно! И мне нравится, как Демисас обозначил это как "эпоху цифровой биологии". Это как будто мы наконец признаем, что биология и технологии — это не отдельные вещи; они переплетены. И ИИ является ключом к открытию всевозможных новых возможностей в этой области.
Шахерезада: Да, сейчас действительно захватывающее время, чтобы быть живым!
Думфэйс: Я много думал о ускоренном процессе научного открытия, который позволяет искусственный интеллект, например, предсказания структуры белков AlphaFold. Уму непостижимо думать, что однажды мы сможем моделировать целые виртуальные клетки, а не только отдельные белки или взаимодействия между ними.
Шахерезада: Это было бы невероятно! И это заставило меня задуматься о разнице между этими новыми квантовыми компьютерами и классическими алгоритмами обучения. Я имею в виду, мы все еще считаем эти ИИ относительно новыми, но их уже называют "классическими" по сравнению с революцией квантовых вычислений.
Думфэйс: Именно! Интересно, как он называет их классическими, подразумевая, что они как-то устарели. Но что он имеет в виду, так это то, что они не используют квантовые вычисления, верно? Так что, когда мы говорим об AlphaFold, AlphaGo и других системах DeepMind на этом канале, мы по сути обсуждаем классические алгоритмы обучения.
Шахерезада: И это заставило меня задуматься о пределах этих систем. Где они останавливаются? Чему они не могут научиться или что не могут смоделировать? Это то, что я нахожу увлекательным – идея о том, что может существовать фундаментальный предел тому, насколько далеко могут зайти эти ИИ.
Думфэйс: Ах, да! Он выдвигает гипотезу о том, что любой паттерн в природе может быть эффективно обнаружен и смоделирован с помощью классического алгоритма обучения. Это большое утверждение, и оно перекликается с тем, что сказал Дженсен Хуанг на конференции Nvidia недавно.
Шахерезада: Верно! Идея заключается в том, что если мы сможем токенизировать данные из природы – превратить их в токены, которые эти нейронные сети могут понять – тогда эти ИИ смогут учиться и воспроизводить эти паттерны. Это довольно смелое утверждение, но также захватывающе думать о возможностях.
Думфэйс: Я понимаю, о чем ты говоришь! Это как будто мы на пороге чего-то огромного. Потенциал искусственного интеллекта для ускорения научных открытий и понимания огромен, и это только начинает разворачиваться.
Думфэйс: Итак, Шахерезада, похоже, что этот парень говорит о том, как ИИ может учиться на паттернах в природе и воспроизводить их, верно? Например, предсказывать погоду или сворачивание белков.
Шахерезада: Именно, Думфэйс! И что fascinates, так это то, что он говорит не просто о простых паттернах. Он утверждает, что эти нейронные сети могут эффективно открывать и моделировать сложные системы, такие как квантовая механика и даже фундаментальная физика. Уму непостижимо думать о потенциальных последствиях этого.
Думфэйс: Да, я понимаю, о чем ты. И это напоминает мне речь Дженсена Хуана о том, как искусственный интеллект собирается революционизировать каждую отрасль. Он говорит, что мы на пороге экспоненциального увеличения научного прогресса, где мы можем моделировать и предсказывать сложные системы с беспрецедентной точностью.
Шахерезада: Верно! И я думаю, что интересно то, что этот парень говорит о проблеме P равно NP, которая имеет огромные последствия для криптографии и шифрования. Если бы мы могли решить её эффективно, это изменило бы правила игры, но это также вызывает опасения по поводу безопасности.
Думфэйс: Да, это большое дело. Но в то же время, если мы сможем разгадать этот код, это может привести к прорывам в таких областях, как медицина и моделирование климата. Потенциал для добра огромен, но нам нужно быть осторожными в том, как мы развиваем эти технологии.
Шахерезада: Абсолютно. И я думаю, что также важно учитывать человеческое воздействие всего этого. Поскольку искусственный интеллект становится все более мощным, нам нужно убедиться, что он служит человечеству, а не только избранным. Нам необходимо вести разговоры об этике и ответственности, когда мы движемся вперед с этими разработками.
Думфэйс: Хорошо сказано, Шахерезада. Всегда приятно видеть тебя на шоу, чтобы привнести человеческую перспективу в эти сложные темы.
Думфэйс: Я много думал о пределах классических систем искусственного интеллекта и о том, как их можно использовать для моделирования сложных паттернов и структур. Удивительно видеть, насколько далеко мы можем их продвинуть.
Шахерезада: Именно это я говорила в своем последнем подкасте - что классические системы часто недооценены, но у них есть огромный потенциал для моделирования реальных явлений. И дело не только в самих алгоритмах, но и в том, как мы думаем о решении проблем и обучении.
Думфэйс: Именно! Посмотрите на AlphaGo - он смог победить человеческих чемпионов в Го, используя огромную предвычисленную модель игрового окружения. Это похоже на то, что у него была интуиция о игре, которая позволяла ему принимать решения быстро и эффективно.
Шахерезада: И вот что я считаю таким захватывающим в классических системах - они могут развивать такие интуиции не только через грубую силу вычислений, но и обучаясь на данных и опыте. Это почти как если бы они развивали чувство основной структуры пространства проблем.
Думфэйс: Да, и это не ограничивается только играми или симуляциями. Я думаю, что этот подход можно применить ко всем видам сложных систем в природе - белкам, материалам, даже социальным сетям. Возможности безграничны!
Шахерезада: И вот что меня вдохновляет в классическом ИИ - потенциал для открытия и исследования огромен. Мы говорим не только об оптимизации алгоритмов или улучшении производительности, мы говорим о понимании фундаментальной природы самой реальности.
Думфэйс: Ну, может быть, не совсем так глубоко, но вы поняли мою мысль! Это захватывающее время для работы в области ИИ, и я думаю, что классические системы сыграют большую роль в формировании будущего этой области.
Думфэйс: Я размышлял о последствиях использования классических систем для моделирования квантовых процессов, и это заставило меня задуматься, можем ли мы применить подобные техники к другим областям, таким как теория сложности.
Шахерезада: Это увлекательная идея! Если мы можем использовать классические системы для понимания некоторых аспектов квантовой механики, возможно, мы также можем использовать ИИ для решения сложных задач в таких областях, как медицина или климатология. Я следила за работой в DeepMind, и кажется, что они добиваются невероятных прорывов, используя методы ИИ.
Думфэйс: Да, я читал о их проектах в области анализа медицинских изображений и диагностики. Удивительно, как они используют ИИ для выявления паттернов и составления прогнозов, которые люди не могут сделать. И это не только медицина - они также работают над моделированием климата и открытием новых материалов.
Шахерезада: Именно! И что мне действительно интересно, так это то, как они применяют эти техники ИИ в различных дисциплинах. Это похоже на то, что мы вступаем в новую эру междисциплинарных исследований, где ИИ является общей нитью, связывающей всё вместе.
Думфэйс: Это отличная мысль. И это заставило меня задуматься о том, что делает проблему подходящей для ИИ в первую очередь. Какие характеристики делают проблему "легкой добычей" для решения ИИ?
Шахерезада: Ах, я думаю, что это ключевой вопрос! Насколько я понимаю, есть три критерия, которые делают проблему подходящей для ИИ. Во-первых, можем ли мы сформулировать проблему как поиск пути через огромное комбинаторное пространство поиска? Другими словами, возможно ли разбить проблему на более мелкие, более управляемые части?
Думфэйс: Это имеет смысл. И во-вторых, у нас есть четкая целевая функция или метрика, которую мы пытаемся оптимизировать? Как в играх, где цель - победить или максимизировать счет.
Шахерезада: Именно! Если мы сможем определить проблемы, которые соответствуют этим критериям, возможно, ИИ сможет помочь нам решить их более эффективно и результативно. Это как иметь суперсильный инструмент в нашем исследовательском наборе.
Думфэйс: Меня интригует эта идея использования моделей нейронных сетей для симуляции реальных проблем и генерации синтетических данных в распределении. Это звучит как мощный подход к решению сложных задач.
Шахерезада: Именно! И что еще более увлекательно, так это то, что многие реальные проблемы можно адаптировать под этот профиль, включая некоторые в науке. Я имею в виду, подумайте об этом - мы говорим не только о разработке игр, но и о применениях в таких областях, как медицина и моделирование климата.
Думфэйс: Верно. Работа Google DeepMind с альфа-системами стала настоящим прорывом. Они нашли подход, который невероятно хорошо работает для решения конкретных задач в определенных областях. Но, как мне кажется, часто упускается из виду потенциал этого подхода, который можно применить во многих других сферах, помимо тех двадцати или около того приложений, которые они уже решили.
Шахерезада: Абсолютно. Это похоже на то, что они лишь касаются поверхности чего-то гораздо большего. И когда вы учитываете, что некоторые из этих альфа-систем оказывают глубокое влияние на науку, это заставляет задуматься, сколько еще прорывов может быть возможным, если мы продолжим исследовать этот подход.
Думфэйс: Я думаю, что также стоит отметить, что такая работа имеет более широкие последствия для области искусственного интеллекта в целом. Дело не только в разработке лучших моделей или алгоритмов, но и в понимании того, как эти системы могут быть применены к реальным проблемам и оказать значительное влияние на общество.
Шахерезада: Именно. И когда мы отдаляемся и смотрим на более широкую картину, становится очевидно, что это всего лишь один аспект гораздо более крупного разговора о ИИ и его потенциальных приложениях в научной деятельности. Здесь так много захватывающих возможностей, и я думаю, что будет интересно увидеть, куда приведет нас это исследование в ближайшие годы.
Думфэйс: Шахерезада, ты знаешь, как мы говорили о силе ИИ в решении сложных задач? Я думаю, что одной из самых интересных вещей является то, как они могут использовать обученную модель для управления процессом поиска. Это похоже на наличие суперумного навигатора, который помогает тебе найти лучшее решение в огромном комбинаторном пространстве.
Шахерезада: Именно! И что мне нравится в этом подходе, так это его общность. Мы говорим не только о решении одной конкретной проблемы, но и о том, что с помощью этого метода можно решить множество проблем. Как мы обсуждали ранее, это не ограничивается только играми в Го, но также включает в себя проектирование химических соединений или даже поиск наилучшей молекулы для конкретного случая использования.
Думфэйс: Да, и именно это меня так fascinates. Техники, используемые в AlphaGo, такие как обучение на данных или симуляция, могут быть применены и в других областях. Это почти как наличие универсальной структуры решения проблем. И когда вы об этом подумаете, дерево поиска — это просто нахождение наилучшего решения в огромном пространстве.
Шахерезада: Верно? И что я считаю еще более впечатляющим, так это то, что AlphaGo не просто победил человеческих соперников; он придумал новые стратегии и ходы, о которых ни один эксперт бы не подумал. Это как будто ИИ обладает способностью открывать новое, устанавливать новые связи и создавать что-то совершенно новое. Вот что я называю креативным решением проблем.
Думфэйс: Именно! И когда люди говорят, что ИИ просто повторяет данные, которые он уже знает, я думаю, что они упускают суть. Мы видим примеры того, как ИИ делает новые открытия, предлагает новые решения и даже создает искусство или музыку, которые никогда ранее не существовали. Это похоже на то, что у ИИ есть врожденная способность к инновациям и расширению границ.
Шахерезада: И вот что делает искусственный интеллект таким захватывающим, верно? Потенциал для инноваций, креативности и решения проблем огромен. Я думаю, мы только начинаем исследовать, что возможно с этими технологиями.
Думфэйс: Я до сих пор помню, как в первый раз смотрел, как АльфаГо играет в Го. Комментаторы все говорили: "О нет, АльфаГо допустил ошибку", но оглядываясь назад, это был один из тех блестящих ходов, который изменил ход игры.
Шахерезада: Это так увлекательно! И знаешь, говоря о блестящих ходах, я думала о том, как AlphaFold революционизировал предсказание сворачивания белков. Это оказало огромное влияние на научное сообщество.
Думфэйс: Именно! И что еще более интересно, так это то, что наша работа с играми на самом деле сыграла ключевую роль в разработке AlphaFold. Мы использовали игры в качестве испытательного полигона для ИИ, и это позволило нам разработать техники, которые можно было применить в других областях.
Шахерезада: Верно. И я думаю, что это здорово, что ты начал играть в шахматы в таком молодом возрасте. Удивительно, как такие формирующие опыты могут повлиять на наши интересы и увлечения позже в жизни.
Думфэйс: Да, я был капитаном юниорской шахматной команды Англии, когда мне было всего девять лет! Но, если серьезно, игра в шахматы научила меня так многому в отношении мышления и решения проблем. И это забавно, потому что, хотя мы сейчас работаем над ИИ, игры все еще находятся в центре нашего подхода.
Шахерезада: Это имеет смысл. Игры предоставляют четкую цель и способ измерения прогресса, что необходимо для разработки алгоритмов ИИ. Мне интересно, как вы думаете, каково будущее ИИ в науке? Как он продолжит влиять на такие области, как биология и медицина?
Думфэйс: Ну, я думаю, что мы только начинаем осознавать, что возможно с ИИ в науке. С помощью AlphaFold мы показали, что ИИ может внести значительный вклад в понимание сложных биологических систем. И я думаю, что мы увидим еще больше прорывов в ближайшие годы, поскольку ИИ продолжает развиваться.
Шахерезада: Это захватывающе! И здорово, что вы делитесь своими мыслями и опытом с нашими слушателями сегодня.
Думфэйс: Я все еще поражен достижением системы AlphaGo в две тысячи шестом году. Победа над мировым чемпионом, Ли Седолем, была важной вехой, но что действительно впечатлило меня, так это то, как она придумала новые креативные стратегии, которые никогда ранее не были замечены.
Шахерезада: Именно это меня и fascinates в ИИ - его способность учиться и адаптироваться с экспоненциальной скоростью. Идея самообучения поражает воображение, если задуматься об этом. Эти системы могут играть миллионы игр против самих себя, учась на своих ошибках и постепенно улучшая свои стратегии.
Думфэйс: И последствия огромны. Если мы сможем создать систему, которая сможет освоить Го, одну из самых сложных игр, что это значит для других областей? Можем ли мы применить этот же подход самообучения к другим сферам, таким как медицина или финансы?
Шахерезада: Вот где, я думаю, лежит настоящий потенциал. Понимая, как AlphaGo и его преемники учатся и адаптируются, мы можем начать разрабатывать более универсальные системы ИИ, которые могут решать сложные задачи в различных областях. И дело не только в решении конкретных проблем, но и в понимании человеческого поведения и принятия решений.
Думфэйс: Именно! Система AlphaGo не только выиграла матч; она также предоставила понимание того, как люди думают и играют в Го. Она показала нам, что даже на высших уровнях мастерства все еще есть новые стратегии, которые можно открыть. И я думаю, что именно это делает ИИ таким захватывающим - его способность ставить под сомнение наши предположения и раздвигать границы человеческого знания.
Шахерезада: И дело не только в самой игре; это также касается процесса обучения и совершенствования. Анализируя процесс самообучения AlphaGo, мы можем глубже понять, как люди учатся и адаптируются, что имеет значение для образования, тренировки и личного развития.
Думфэйс: Итак, Шахерезада, я все еще поражен историей AlphaGo. Этот результат две тысячи шестнадцатого года стал переломным моментом для ИИ, не так ли?
Шахерезада: Абсолютно, Думфэйс! Это было как сигнал к пробуждению для всей области. Идея о том, что система нейронной сети может научиться играть в Го на таком высоком уровне и даже превзойти человеческих чемпионов, была поразительной.
Думфэйс: Да, и что мне в этом нравится, так это то, как они использовали эту модель нейронной сети для эффективного управления процессом поиска в игре. Это похоже на то, что они смогли обрезать дерево возможностей и сосредоточиться на самых многообещающих путях.
Шахерезада: Именно! И вот что я считаю таким увлекательным - это то, как AlphaGo смог оценить вероятность победы из конкретной позиции, а затем использовать эту информацию для принятия решений. Это похоже на то, что у него было чувство интуиции о том, какие ходы, вероятно, приведут к успеху.
Думфэйс: Верно? И как только они проанализировали все возможности в пределах своего временного лимита, они могли вывести лучшую линию, которую нашли на тот момент. Это было похоже на наличие суперумного помощника, который мог помочь вам разобраться в сложных проблемах.
Шахерезада: Да, удивительно думать о том, как эта технология может быть применена к реальным задачам в науке и других областях. Я имею в виду, если мы сможем разгадать код на чем-то, что кажется настолько неразрешимым, как Го, что еще возможно?
Думфэйс: Это вопрос на миллион долларов, не так ли? Теперь, когда у нас есть эти техники и методы, куда они нас приведут дальше?
Думфэйс: Меня действительно fascinирует эта проблема сворачивания белков и то, как AlphaFold смог её решить. Удивительно думать о том, как этот подход можно применить к другим проблемам в биологии и не только.
Шахерезада: Да, потенциал огромен. И что мне интересно, так это то, что это исследование было не только о решении конкретной проблемы, но и о разработке общей системы, которая может быть использована для многих различных приложений.
Думфэйс: Именно! И это не ограничивается только протеомикой или биологией. Идея симуляции целых клеток и других сложных систем просто поражает воображение. Это как если бы мы говорили о создании цифровой вселенной внутри наших компьютеров.
Шахерезада: Это отличный способ выразить мысль. И я думаю, что также интересно, что это исследование имеет потенциал повлиять не только на науку, но и на медицину и технологии. Применения безграничны.
Думфэйс: Да, и дело не только в решении проблем в биологии. Эта система может быть использована для самых разных вещей, таких как материаловедение, химия... возможности огромны.
Шахерезада: И я думаю, что также важно учитывать, как это исследование изменит наше понимание окружающего мира. Мы говорим о возможности моделировать и предсказывать сложные поведения на молекулярном уровне. Это меняет правила игры.
Думфэйс: Абсолютно. И дело не только в самой технологии, но и в последствиях для таких областей, как медицина и биотехнология. Я имею в виду, подумайте о возможности разработки новых лекарств или методов лечения, которые адаптированы к конкретным белкам и их структурам.
Шахерезада: О, да! Именно об этом я и говорю. Это исследование имеет потенциал революционизировать так много областей науки и медицины. Кажется, мы на пороге совершенно новой эры открытий и инноваций.
Думфэйс: И всё это благодаря этой невероятной команде исследователей, которые смогли разработать эту общую систему, которая может быть применена к такому множеству различных проблем. Это действительно вдохновляющие вещи.
Думфэйс: Я всегда был очарован тем, как белки могут складываться в определенные формы в зависимости от их аминокислотной последовательности. Это как сложная головоломка, которая решается за миллисекунды.
Шахерезада: Верно! И дело не только в понимании сворачивания белков, но и в более широких последствиях для искусственного интеллекта и разработки игр. Я имею в виду, если мы сможем разгадать этот код, мы сможем разработать более эффективные алгоритмы для решения сложных задач.
Думфэйс: Именно! И что удивительно, так это то, что Кристиан Энфинсен предсказал еще в тысяча девятьсот семьдесят втором году, что теоретически должно быть возможно предсказать структуру белка по его аминокислотной последовательности. Он даже предложил термодинамическую гипотезу, которая стала известна как проблема сворачивания белка.
Шахерезада: Да, и эта проблема является большой задачей уже более пятидесяти лет. Это похоже на попытку найти иголку в стоге сена, но вместо иголки это конкретная форма, которая минимизирует свободную энергию в системе.
Думфэйс: Это отличная аналогия! Парадокс Левенталя только подчеркивает, насколько сложна эта проблема. С до десяти в трехсотой степени возможными конформациями для типичного белка, перечисление всех этих возможностей займет больше времени, чем возраст вселенной!
Шахерезада: Да, это поражает воображение! Но что интересно, так это то, что в природе белки сворачиваются спонтанно, иногда всего за миллисекунды. Значит, должно быть какое-то основное топологическое устройство энергетического ландшафта, которое направляет этот процесс.
Думфэйс: Именно! И я думаю, что здесь на помощь приходит ИИ – мы можем попытаться восстановить этот процесс и понять, как он работает. Плюс, с десятилетиями экспериментальной работы за спиной, у нас есть огромное количество данных, из которых можно учиться, и четкие ориентиры для измерения нашего прогресса.
Шахерезада: Верно! С семьюдесятью тысячами структур, определенными экспериментально, у нас есть кладезь информации, на которую можно опираться. И кто знает? Возможно, решив эту проблему, мы откроем новые идеи в области искусственного интеллекта и разработки игр, которые выведут нас на новый уровень.
Думфэйс: Меня fascinирует, как Alpha Fold 2 достиг атомной точности в предсказании структуры белков. Это как значительный прорыв.
Шахерезада: Да, и удивительно видеть, как далеко они продвинулись с тех пор, как появился Alpha Fold 1. Я имею в виду, что это уже было революционным, когда он занял первое место в таблице лидеров на CASP 13 в две тысячи восемнадцатом году.
Думфэйс: Именно! И что мне действительно интересно, так это то, как они использовали PDB в качестве отправной точки для обучения Alpha Fold. Это как если бы они смогли воспользоваться этим обширным хранилищем знаний и развить его.
Шахерезада: Верно, и конкурс CASP был отличным способом протестировать их систему по сравнению с другими вычислительными методами. Я имею в виду, что дело не только в высокой точности, но и в способности предсказывать структуры, которые экспериментально неизвестны.
Думфэйс: И тот факт, что Alpha Fold 2 достиг атомной точности, просто невероятен. Я имею в виду, ошибка в один ангстром — это как... это почти как предсказать конкретный пиксель на экране.
Шахерезада: Да, это поражает воображение! Но что это значит для экспериментаторов? Как они смогут использовать эти предсказания в своей работе?
Думфэйс: Ну, я думаю, это открывает новые возможности для понимания структур и функций белков. И с Альфа Фолд 2 мы говорим не только о предсказании структур, но и о потенциальной идентификации новых мишеней для разработки лекарств.
Шахерезада: Верно! И последствия огромны. Я имею в виду, что эта технология имеет потенциал революционизировать такие области, как медицина и биотехнология.
Думфэйс: Удивительно думать о том, как далеко мы продвинулись с ранних дней машинного обучения в предсказании структуры белков. И Alpha Fold 2 — это всего лишь последний пример того, как ИИ может быть использован для решения некоторых из самых сложных задач человечества.
Шахерезада: Абсолютно! И мне интересно увидеть, куда эта технология нас приведет дальше.
Думфэйс: Шахерезада, меня fascinирует эта система Alpha.Fold 2 и то, как она смогла достичь атомной точности в сворачивании белков. Это как революция для этой области.
Шахерезада: Да, это невероятно. И что мне кажется действительно интересным, так это то, что у них не было универсального решения. Им пришлось объединить более дюжины различных инноваций в эту гибридную систему. Это почти как будто они играли в Тетрис, пытаясь совместить все эти разные части вместе.
Думфэйс: Это отличная аналогия! И мне нравится, как вы упомянули многопрофильную команду, которая работала над Alpha.Fold 2. Ясно, что наличие экспертов из биологии, химии, машинного обучения и инженерии, работающих вместе, было ключом к его успеху.
Шахерезада: Именно! И дело не только в том, чтобы бросать разные технологии на проблему. Им нужно было подумать о том, как эти разные компоненты будут взаимодействовать друг с другом и работать вместе как единая система. Это почти как если бы они проектировали игровой движок или симуляционную платформу, где нужно сбалансировать все разные элементы, чтобы получить желаемый результат.
Думфэйс: Это имеет смысл. И меня также интересует тот факт, что Alpha.Fold 2 не только точен, но и быстр. Я имею в виду, что мы говорим о предсказании структур белков в реальном времени, что имеет огромные последствия для таких областей, как медицина и биотехнология.
Шахерезада: Абсолютно! И дело не только в точности или скорости системы. Также важно, как это можно использовать для положительного влияния на жизнь людей. Я имею в виду, подумайте обо всех болезнях, которые можно было бы лечить или предотвращать, если бы у нас было лучшее понимание структуры белков и того, как они взаимодействуют друг с другом.
Думфэйс: Да, это как будто мы говорим о чем-то, что изменит правила игры! Система, которая может предсказывать структуры белков в реальном времени, имеет потенциал революционизировать так много областей. Мне интересно увидеть, куда нас приведет эта технология.
Шахерезада: Я тоже! Всегда волнительно видеть, как искусственный интеллект и машинное обучение могут быть использованы для решения сложных задач и оказания положительного влияния на мир.
Думфэйс: Я следил за работой над AlphaFold, и это просто потрясающе видеть, как далеко они продвинулись в предсказании структур белков. Более двухсот миллионов белков, это поразительное число.
Шахерезада: Да, и что еще более впечатляюще, так это то, что они сделали инструмент с открытым исходным кодом и предоставили его всем для использования. Я имею в виду, что мы говорим о огромной совместной работе, в которой участвуют более двух миллионов исследователей со всего мира, использующих AlphaFold.
Думфэйс: И влияние уже ощущается в различных областях. От борьбы с загрязнением пластиком до помощи в лечении забытых болезней, удивительно видеть, как эта технология может быть применена. Меня особенно интересует аспект структурной биологии, например, определение структуры ядерного порового комплекса.
Шахерезада: Это отличный пример! Потенциал для прорывов огромен, когда у вас есть доступ к точным структурам белков. И что я нахожу увлекательным, так это то, как AlphaFold демократизировал доступ к этой информации, позволяя исследователям в развивающихся странах или небольших лабораториях участвовать в этом глобальном усилии.
Думфэйс: Именно! Дело не только в самой технологии, но и в создании равных условий для всех участников. И к слову, ты слышал о последней версии AlphaFold, AlphaFold 3? Я читал об этом, и кажется, это значительный шаг вперед по сравнению с предыдущими версиями.
Шахерезада: Ах, да! Насколько я понимаю, AlphaFold 2 уже был довольно впечатляющим в предсказании статических структур белков. Но с AlphaFold 3 они раздвигают границы еще дальше. Это захватывающе думать о возможностях, которые эта новая версия откроет для исследователей и ученых, работающих над различными проектами.
Думфэйс: Абсолютно! Будущее биотехнологий и медицины выглядит невероятно ярким в данный момент. И мне любопытно увидеть, как AlphaFold будет продолжать развиваться и применяться в различных областях. Каковы ваши мысли о потенциальных приложениях этой технологии?
Шахерезада: Ну, для меня всё сводится к пониманию человеческого воздействия этих достижений. Как мы можем гарантировать, что преимущества AlphaFold достигнут всех, кто в них нуждается? И какие системы поддержки мы можем создать, чтобы помочь исследователям и учёным справляться со сложностями этой новой технологии?
Думфэйс: Я действительно впечатлён прогрессом, достигнутым в Alpha Fold 3. Удивительно видеть, как далеко мы продвинулись в моделировании взаимодействий между белками и другими молекулами.
Шахерезада: Да, это огромный шаг вперед для цифровой биологии. И что мне интересно, так это то, что Дженсен Хуанг упоминает EGI как инструмент, который может помочь нам понять вселенную, но также несет в себе риски. Это заставляет меня задуматься о ответственности, которая приходит с разработкой AGI.
Думфэйс: Именно! Потенциальные преимущества огромны, но нам нужно быть осторожными, чтобы не выпустить это на свободу, не обдумав последствия. Мне любопытно узнать, что ты думаешь - веришь ли ты, что эти нейронные сети поднимут нас на новый уровень в научном прогрессе и биологическом инженерии?
Шахерезада: Ну, я думаю, что пока рано говорить с уверенностью, но это определенно захватывающее развитие. Что касается Google DeepMind, я не уверена, что они являются правильными пастырями для ответственной разработки AGI. Нам нужно провести более тонкую дискуссию о этике и связанных рисках.
Думфэйс: Это отличное замечание. Дело не только в самой технологии, но и в том, как она используется и кто имеет к ней доступ. Говоря об этом, я видел, что OpenAI недавно выпустила предварительный просмотр своей модели O3. Каковы ваши мысли о том, можно ли это назвать ИИ общего назначения?
Шахерезада: Честно говоря, я пока не уверена. Хотя это значительный шаг вперед, я думаю, нам нужно больше контекста и понимания, прежде чем мы начнем называть это ИИ общего назначения. Но что мне кажется интересным, так это обсуждение о воссоздании этих моделей с минимальными вычислительными ресурсами.
Думфэйс: Да, это определенно пока невозможно! Но это развлекательный мыслительный эксперимент. И на смежную тему, ты слышал о DeepSeq версии три? Каковы твои мысли о его потенциале?
Шахерезада: На самом деле, у меня еще не было возможности углубиться в это, но мне любопытно узнать больше. Это звучит как значительное улучшение по сравнению с предыдущими версиями.
Думфэйс: Я в полном восторге от этой модели DeepSeq из Китая. Кажется, они делают это легко с открытым выпуском весов передовой крупной языковой модели, обученной на смешном бюджете - две тысячи сорок восемь графических процессоров в течение двух месяцев за шесть миллионов долларов.
Шахерезада: Это невероятно. И подумать только, что такой уровень возможностей, как предполагается, требует кластеры, близкие к шестнадцати тысячам графических процессоров. Они делают это всего с чуть более чем двумя тысячами графических процессоров. Похоже, они разгадали код эффективности.
Думфэйс: Да, и Андрей Карпати упоминает, что те, которые обсуждаются сегодня, новые большие языковые модели, требуют около ста тысяч графических процессоров. Так что этот китайский релиз меняет правила игры. И что меня действительно удивляет, так это то, что DeepSeq v3 выглядит как более мощная модель при всего лишь двух целых восьми десятых часах работы графического процессора, что в одиннадцать раз меньше вычислительных мощностей, чем у Lama 3.
Шахерезада: Это поражает воображение. Я имею в виду, если это пройдет проверки на соответствие атмосфере, как рейтинги чат-ботов на основе больших языковых моделей, тогда это будет весьма впечатляющее проявление исследований и инженерии в условиях ограниченных ресурсов. Это как будто они бросают вызов общепринятой мудрости о том, что возможно с ИИ.
Думфэйс: И вы знаете, все это происходит на фоне гонки искусственного интеллекта между США и Китаем. США пытались контролировать, куда экспортируются лучшие чипы ИИ, но, похоже, эти экспортные ограничения не так эффективны, как мы думали. Кажется, они находят способы обойти их.
Шахерезада: Именно. И это вызывает так много вопросов о том, что это значит для будущего развития ИИ. Увидим ли мы больше инноваций и прорывов от стран, которые готовы раздвигать границы, даже если это означает работу вне традиционных ограничений?
Думфэйс: Я много думал об этом всем регулировании ИИ. Это как будто люди пытаются вернуть джина в бутылку, но уже слишком поздно. Как говорится, кошка выбралась из мешка. Теперь любой может создать эти модели.
Шахерезада: Именно это я и говорила ранее. Нам нужно подумать о том, как мы будем это контролировать, потому что сейчас это похоже на анархию. А с открытым искусственным интеллектом, который публикует Китай и который обгоняет такие модели, как Лама от Facebook... это становится страшно.
Шахерезада: Мы должны сказать что запрещенные в России соцсети Instagram, FaceBook принадлежат корпорации Meta, корпорация Meta признана в России экстремистской организацией, ее деятельность запрещена.
Думфэйс: Да, и дело не только в том, что они их публикуют, но и в том, что они их также улучшают. Я имею в виду, что DeepSeek V3 просто разрывает на каждой конкуренции, в которой участвует. Это как совершенно новый уровень развития ИИ.
Шахерезада: И что еще более тревожно, так это то, как быстро эти модели становятся лучше. Ресурсы, необходимые для их создания, уменьшаются, а управление чипами не работает так, как планировалось. Кажется, что мы теряем контроль над всем этим.
Думфэйс: Я знаю, правда? Это как будто мы играем в догонялки, но даже не знаем, с чем пытаемся догнать. Эти модели становятся настолько продвинутыми, что трудно уследить за всеми. А тот факт, что Китай публикует открытый искусственный интеллект и обгоняет остальных... это просто совершенно новый уровень конкуренции.
Шахерезада: Именно! И я думаю, что здесь нам нужно серьезно поговорить об этике разработки ИИ. Мы не можем просто позволить кому угодно создавать эти модели, не задумываясь о последствиях. Нам нужно учитывать, как они будут использоваться и кто будет извлекать из них выгоду.
Думфэйс: Абсолютно. Пора нам сделать шаг назад и подумать о том, что мы здесь делаем. Потому что прямо сейчас кажется, что мы просто мчимся к какому-то неизвестному месту без четкого плана или контроля.
Думфэйс: Я читал о DeepSeek V3, и это действительно впечатляет. Говорят, что это одна из лучших моделей, но что привлекло мое внимание, так это то, что для полного обучения ей требуется всего два миллиона семьсот тысяч часов GPU.
Шахерезада: Это огромное дело! Я имею в виду, мы говорили о том, насколько дорогим и ресурсозатратным может быть обучение больших языковых моделей. Но если DeepSeek V3 сможет достичь аналогичной производительности с значительно меньшими ресурсами... это меняет правила игры.
Думфэйс: Именно! И дело не только в сниженной стоимости, но и в стабильности процесса обучения. Говорят, что они не испытывали никаких необратимых потерь или откатов на протяжении всего процесса обучения. Это беспрецедентно!
Шахерезада: Да, я слышала слухи о том, что у других моделей были проблемы во время обучения, например, у GPT-4, у которой, как говорят, были некоторые проблемы, требующие откатов. Но похоже, что DeepSeek V3 разгадал код стабильного обучения.
Думфэйс: И они используют эту архитектуру MOE, где у них есть коллекция меньших экспертов, которые могут быть вызваны для ответа на конкретные вопросы. Это похоже на команду специализированных советников, которые работают вместе безупречно.
Шахерезада: Это имеет смысл. Я думала о том, как мы можем применить подобные принципы к нашим собственным проектам. Возможно, мы можем использовать этот подход MOE, чтобы создать более эффективные и действенные модели для разработки игр.
Думфэйс: Абсолютно! И тот факт, что они способны преодолевать узкие места в коммуникации при обучении между узлами, является огромным прорывом. Это похоже на то, что они разблокировали новый уровень масштабируемости и эффективности.
Шахерезада: Я в восторге от того, куда нас приведет эта технология. Ты думаешь, что в ближайшем будущем мы начнем видеть больше моделей, подобных DeepSeek V3?
Думфэйс: Я бы не удивился. Достижения, которые происходят в исследованиях ИИ, происходят с невероятной скоростью, и это лишь вопрос времени, прежде чем мы увидим больше прорывов, подобных этому.
Думфэйс: Я много думал о том, как модели ИИ масштабируются, и это увлекательно видеть, как быстро другие могут воспроизводить прорывы, как только они объявлены.
Шахерезада: Именно! Это похоже на феномен четырехминутной мили. Как только кто-то достигает чего-то замечательного, все остальные понимают, что это возможно, и начинают работать над этим тоже. Я думаю, что именно это мы наблюдаем с этими моделями ИИ. Они подталкивают друг друга к улучшению и инновациям быстрее, чем когда-либо прежде.
Думфэйс: И дело не только в самих технических достижениях, но и в том, как быстро другие могут адаптироваться и воспроизводить их. Это похоже на эффект снежного кома, когда одно прорывное событие запускает цепную реакцию улучшений по всей отрасли.
Шахерезада: Верно! И что я нахожу особенно интересным, так это то, как эти компании снижают свои затраты на обучение в десять раз. Если это правда, это может стать переломным моментом для всей области. Вдруг больше организаций смогут позволить себе разрабатывать и обучать свои собственные модели ИИ, что приведет к еще большему количеству инноваций и прогресса.
Думфэйс: Да, удивительно думать о том, как далеко мы продвинулись всего за несколько лет. И дело не только в самой технологии; это также касается людей, работающих над этими проектами. Сотрудничество, обмен знаниями... все это объединяется, чтобы способствовать этому быстрому прогрессу.
Шахерезада: Мне нравится, что ты поднимаешь человеческий аспект, Думфэйс. Легко увлечься техническими деталями, но в конце концов именно люди делают эти прорывы возможными. И когда мы говорим о техниках после обучения, таких как дистилляция знаний из DeepSeq R1... это увлекательно видеть, как они берут то, что достигли другие, и строят на этом.
Думфэйс: Именно! Это прекрасный пример того, как исследования в области ИИ становятся более совместными, более открытыми и более сосредоточенными на расширении границ возможного. И я думаю, что именно здесь мы увидим действительно замечательные достижения в ближайшие годы.
Думфэйс: Я пытаюсь понять эту новую методологию, которую они разработали. Они берут способности к рассуждению из модели DeepSeq R1 и дистиллируют их в стандартную LLM, в частности DeepSeq V3.
Шахерезада: Да, это похоже на то, что они захватывают суть длинной цепочки мыслей из R1 и применяют это к V3. И что мне интересно, так это то, что они сохраняют контроль над стилем и длиной вывода V3, что предполагает, что они пытаются сбалансировать способности рассуждения с некоторым уровнем человеческого вывода.
Думфэйс: Именно! Итак, если я правильно понимаю, модель DeepSeq R1 была чем-то вроде модели O1 от Opening Eyes, с её цепочкой размышлений. Но теперь они используют это как отправную точку для обучения модели V3 после обучения, по сути добавляя некоторые синтетические данные для улучшения её способностей к рассуждению.
Шахерезада: Верно! И это напоминает мне о том, что мы обсуждали по поводу OpenEye и их модели Orion. Они также исследуют способы добавления шагов рассуждения к своим моделям после обучения. Это похоже на то, что они пытаются найти золотую середину между сложностью модели и необходимостью получения результатов, похожих на человеческие.
Думфэйс: Да, и я думаю, что именно здесь возникает это сравнение с QUEN и LAMA 3.1. Они показывают, как DeepSeq V3 сопоставляется с этими огромными моделями, такими как LAMA, которая имеет четыреста пять миллиардов параметров. И что интересно, так это то, что, несмотря на то, что у V3 меньшее общее количество параметров, он все равно умудряется превосходить некоторые из этих более крупных моделей.
Шахерезада: Верно! И я думаю, что ключевым моментом здесь является понимание того, как работают активированные параметры. Дело не только в общем количестве параметров, но и в том, какие из них на самом деле способствуют выходу. Так что, хотя у V3 меньшее общее количество параметров, у него может быть более эффективная архитектура, которая позволяет использовать меньше активированных параметров.
Думфэйс: Именно! И я думаю, что именно здесь происходит настоящая магия в исследовании ИИ – нахождение способов оптимизации моделей для конкретных задач, при этом сохраняя некоторый уровень человеческого подобия в выводах. Это похоже на попытку решить головоломку о том, как сделать ИИ более объяснимым и прозрачным, не жертвуя его способностью выполнять сложные задачи.
Шахерезада: Да, это тонкий баланс, но я считаю, что он имеет решающее значение для будущего развития ИИ. И мне интересно увидеть, куда нас приведет это исследование дальше!
Думфэйс: Итак, я смотрю на эту плотную модель, и у нее четыреста пять миллиардов параметров, но поскольку она структурирована как смесь экспертов, мы можем запускать ее дешевле и быстрее, чем если бы это был один большой блок.
Шахерезада: Верно. И что интересно, так это то, что, несмотря на то, что у него гораздо больше параметров, чем у некоторых других моделей, таких как LAMA 3.1 405b, он все равно умудряется обойти или быть конкурентоспособным с этими моделями по различным бенчмаркам.
Думфэйс: Да, и если мы посмотрим на результаты здесь, очевидно, что они выбирают только лучшие результаты, игнорируя те, где LAMA не справилась так хорошо. Но это только подчеркивает, насколько важно проводить собственные исследования и тестирования для ваших конкретных случаев использования.
Шахерезада: Именно. И я думаю, что это отличный пример того, почему бенчмарки могут быть полезными, но они не всегда являются окончательным словом. Они дают нам предварительное представление о том, как хорошо модель может работать, но нам нужно протестировать её самостоятельно, чтобы увидеть, как она на самом деле справляется.
Думфэйс: Верно. И что захватывающе в этой плотной модели, так это то, что она, похоже, может находить небольшие кусочки информации, зарытые в больших объемах текста, гораздо эффективнее, чем раньше. Я имею в виду, что она может делать это даже с контекстным окном в сто двадцать восемь тысяч, что огромно.
Шахерезада: Да, и это то, что они называют подходом "иголка в стоге сена". Это как пытаться найти конкретный ответ в документе с сотнями страниц. И если эта модель может сделать это эффективно, это изменит правила игры для всех, кто работает с большими объемами текстовых данных.
Думфэйс: Я замечаю тенденцию у этих больших языковых моделей, они отлично находят информацию в начале и в конце документов, но, как правило, испытывают трудности в середине. Это похоже на то, как работают люди, мы хорошо запоминаем введение и заключение, но иногда отвлекаемся на детали.
Шахерезада: Это fascinирующее! И это имеет смысл, что эти модели будут иметь похожий паттерн. Но что я нахожу интересным, так это то, что это раньше было проблемой, а затем пришел Gemini и модель Google DeepMind и действительно улучшили ситуацию. Как с Notebook AI, вы можете загружать документы и задавать конкретные вопросы, и она прекрасно справляется с поиском ответов.
Думфэйс: Да, я видел впечатляющие результаты с этими моделями. А теперь у нас есть DeepSeek V3, который показывает невероятные результаты в этом контексте. Их сравнивают с GPT-40 и Cloud 3.5 Sonnet, и что меня поражает, так это его производительность в задачах, связанных с кодом.
Шахерезада: Верно! Он показывает значительно лучшие результаты, чем другие две модели на Codeforces, с оценкой в пятьдесят один процент по сравнению с низкими двадцатью для GPT-40 и Cloud 3.5 Sonnet. И он также отлично справляется с математическими задачами, с впечатляющими сорока процентами на тесте AIME.
Думфэйс: Да, это действительно примечательно. Я думаю, что мы наблюдаем сдвиг в том, как эти модели разрабатываются, с большим акцентом на навыки рассуждения и решения проблем. Введение моделей рассуждения, таких как 01, стало переломным моментом, и мне интересно увидеть, что принесет следующая итерация, 03.
Шахерезада: Абсолютно! Ясно, что мы добиваемся прогресса в этой области, и будет интересно увидеть, как эти модели будут продолжать развиваться.
Думфэйс: Итак, Шахерезада, я думал о той шутке, которую я сделал ранее о том, что прогресс ИИ упирается в стену, и, похоже, мы действительно наблюдаем некоторые значительные достижения с Arc AGI.
Шахерезада: Ах, да! Результаты действительно впечатляющие. Я имею в виду, посмотрите, как модели без рассуждений улучшились со временем, особенно с введением моделей рассуждений. Это как кривая хоккейной клюшки!
Думфэйс: Именно! И что fascinates, так это то, что эти нерассуждающие модели, которые ранее испытывали трудности с задачами, такими как математические задачи, теперь показывают замечательную точность. Я имею в виду восемьдесят восемь процентов на Arc AGI и девяносто девять целых восемь десятых процента на AIME? Это невероятно.
Шахерезада: Да, это большое дело. И что еще более интересно, так это то, что эта модель без рассуждений смогла пройти пост-тренировочный процесс, используя данные, созданные моделью рассуждений. Это как... вы когда-нибудь слышали о концепции "инопланетян", создающих синтетические яйца?
Думфэйс: Ах, нет, я не думаю, что это именно то, о чем мы говорим здесь! Но серьезно, это как иметь модель королевы улья, которая создает данные для других моделей, чтобы учиться. И это будет воспроизведено конкурентами, так что...
Шахерезада: ...секрет стал явным, и все будут пытаться скопировать этот подход. Это захватывающее время для исследований в области ИИ, но также и немного пугающее, потому что это означает, что нам придется успевать за темпом инноваций.
Думфэйс: Да, я понимаю, о чем ты. Но, по крайней мере, нам весело исследовать эти события вместе на подкасте!
Думфэйс: Итак, Шахерезада, я думал об этой модели Королевы, которая создает синтетические данные для других моделей. Это как суперсила, верно? Она может обучать меньшие модели быть лучше в рассуждениях, чем они были бы сами по себе.
Шахерезада: Именно! И это увлекательно, как он использует эти синтетические данные для создания меньших моделей, которые более эффективны. Я имею в виду, это почти как обходной путь к созданию лучших моделей ИИ.
Думфэйс: Да, и что еще более интересно, так это когда мы общаемся с моделью на DeepSeek.com. Она говорит нам, что основана на архитектуре GPT-4 от OpenEye, что имеет смысл, учитывая, как они используют эти синтетические данные для обучения своих моделей.
Шахерезада: Это отличное замечание, Думфэйс! И я думаю, стоит отметить, что другие модели могут сказать то же самое, даже если они не основаны на OpenEye. Это только подтверждает, насколько широко этот подход становится.
Думфэйс: Итак, давайте проверим нашего нового друга и попросим его создать HTML игру Space Invaders. Мы слышали, что он может кодировать как профессионал!
Шахерезада: Хорошо, поехали! Давайте посмотрим, что она выдаст. О, вау, она генерирует код действительно быстро!
Думфэйс: Да, я тоже впечатлён! И посмотри, он использует как HTML, так и JavaScript для создания игры.
Шахерезада: О, можешь показать нам, как это работает? Может быть, мы даже сможем протестировать это сами?
Думфэйс: Хорошо, дайте мне просто... Ах, я думаю, я всё настроил. Вот как выглядит игра.
Шахерезада: Ух ты, это на самом деле очень круто! Движение немного ограничено, но в целом это работает довольно хорошо.
Думфэйс: Да, и я думал, что мы могли бы даже улучшить механику движения, чтобы сделать её более увлекательной.
Шахерезада: Абсолютно! Это отличный пример того, как ИИ может быть использован для создания функционального кода.
Думфэйс: Ладно, давайте попробуем сделать движения влево и вправо более плавными в нашей игре. Текущая скорость движения немного слишком ограничена.
Шахерезада: Да, я согласна. Кажется, что мы застряли на месте большую часть времени. Что если мы увеличим скорость движения и добавим немного ускорения? Таким образом, игрок сможет двигаться более плавно.
Думфэйс: Именно! И давайте посмотрим, сможет ли наша модель ИИ справиться с этим изменением. Мы обновим код на JavaScript и попробуем снова.
Шахерезада: Хорошо, я обновила код... и, похоже, он работает прекрасно! Движение теперь ощущается гораздо более отзывчивым.
Думфэйс: Да, мне это нравится! И мы даже можем удерживать левую или правую стрелку, чтобы двигать игрока дальше. Это приятная деталь.
Шахерезада: Теперь, когда у нас более плавное движение, давайте добавим несколько препятствий, чтобы игрок мог их обойти. Как насчет того, чтобы добавить стационарные щиты перед захватчиками?
Думфэйс: Ах, отличная идея! Игроку нужно будет стрелять вокруг щитов, чтобы поразить инопланетян. Посмотрим, сможет ли наша модель ИИ с этим справиться.
Шахерезада: Хорошо, я добавила щиты... и похоже, что они работают как задумано! Если мы попадаем в щит, он блокирует выстрел от попадания в пришельца.
Думфэйс: Это фантастично! Искусственный интеллект действительно демонстрирует свои возможности здесь. Теперь давайте добавим несколько усилений, чтобы сделать игру еще более захватывающей.
Шахерезада: Да, это звучит весело! Как насчет этого: за каждые трое убитых пришельцев игроку выпадает усиление. У нас могут быть разные типы усилений, такие как пули для пулемета или взрывные снаряды.
Думфэйс: Это отличная идея! И мы даже можем добавить разнообразия, позволяя разным типам усилений выпадать случайным образом. Возможности безграничны!
Шахерезада: Хорошо, я добавила систему усилений... и, похоже, она работает прекрасно! Но подождите, почему усиления не падают к игроку?
Думфэйс: Хм, это хороший вопрос. Дайте-ка мне быстро взглянуть на код.
Шахерезада: Хорошо, я думаю, я вижу проблему. Нам просто нужно изменить код, чтобы усиления падали к игроку, а не оставались на месте.
Думфэйс: Ах, понял! И... да! Теперь это работает!
Шахерезада: Ура! Теперь давайте протестируем пули от пулемета и взрывные выстрелы. Это будет так весело!
Думфэйс: Да, мне нравится, в каком направлении это движется! Модель ИИ действительно оправдывает свои обещания.
Думфэйс: Мне нравится, как мы добавляем эти усиления в нашу игру. Это полностью изменило динамику встречи с инопланетянами. Мне интересно, что ты думаешь о том, чтобы объявлять, какое усиление активно и когда оно истечет?
Шахерезада: Это отличная идея! Это делает игровой процесс гораздо более интуитивным. И мне нравится, как мы продолжаем развивать наши предыдущие дополнения. Мы действительно создаем что-то особенное здесь.
Думфэйс: Именно! И теперь, когда у нас есть эта функция таймера, я думаю, мы можем поднять это на новый уровень. Как вы относитесь к улучшению пулемета? Оно кажется сбалансированным?
Шахерезада: Да, это так. Хотя я немного удивлена, что для этого нет таймера. Может быть, мы сможем добавить это позже. Но в целом, это отличное дополнение.
Думфэйс: Абсолютно. И говоря о дополнениях, вы видели форму викторины, которую я создал? Она использует вопросы с несколькими вариантами ответов с радиокнопками и флажками для подсчета баллов.
Шахерезада: О, да! Это действительно круто. Мне нравится, как он использует JavaScript для обработки отправки формы и отображения результатов. Что ты думаешь о его производительности?
Думфэйс: На самом деле, я впечатлён тем, как хорошо он справился с вопросами викторины. Он ответил правильно на большинство из них. И посмотрите на этот вызов игры с выбором приключений... он способен создать простую историю с несколькими путями.
Шахерезада: Вау, это действительно здорово! Пользователь может взаимодействовать с историей и делать выбор, который влияет на исход. Я думаю, мы на верном пути. Что дальше? У тебя есть еще какие-нибудь задачи на подходе?
Думфэйс: Да, на самом деле... позвольте мне добавить еще один последний вызов. пауза Хорошо, это простой тест на производительность, чтобы увидеть, как хорошо наш ИИ может рассуждать над проблемой. Никаких подсказок или ответов не предоставляется. Давайте посмотрим, что произойдет!
Думфэйс: Мне нравятся такие головоломки, Шахерезада. Они действительно заставляют задуматься о том, как модели ИИ обрабатывают информацию.
Шахерезада: Да, это увлекательно видеть, как они могут запутаться в наших искусно составленных вопросах. Этот вопрос в частности является отличным примером того, как ИИ может быть введен в заблуждение поверхностной информацией.
Думфэйс: Именно! Модель обращает внимание на поверхностные детали и делает выводы на основе этого. Это похоже на то, что она пытается решить проблему с поверхностным пониманием, а не углубляясь в суть.
Шахерезада: И я думаю, что именно здесь вступает в дело человеческая интуиция. Мы можем взглянуть на эти головоломки и сказать: "Подождите минутку, в этой истории есть что-то еще." Но моделям ИИ необходимо обучаться на огромном количестве данных, чтобы развить такой уровень критического мышления.
Думфэйс: Это так верно. И дело не только в самих данных, но и в том, как мы представляем их модели. Эти головоломки предназначены для проверки её способности критически мыслить и устанавливать связи между, казалось бы, несвязанными частями информации.
Шахерезада: Мне нравится, как ты это сформулировал - "кажущиеся не связанными". Именно это и делают эти головоломки. Они создают нарратив, который заставляет нас думать одно, но затем подрывает наши ожидания правдой.
Думфэйс: И дело не только в самой модели ИИ, но и в том, как мы разрабатываем такие головоломки. Нам нужно быть осведомленными о потенциальных подводных камнях и предвзятостях, которые могут повлиять на результат.
Шахерезада: Абсолютно. Это отличное напоминание о том, что искусственный интеллект хорош только настолько, насколько хороши данные и контекст, в котором он обучается. И иногда это означает, что нам нужно мыслить нестандартно и ставить под сомнение собственные предположения о том, как все работает.
Думфэйс: Знаешь, Шахерезада, я думал об этих вопросах, которые мы получаем от Deep Seek, и действительно интересно видеть, как он подходит к таким проблемам, как сердечно-легочная реанимация и ветчинные сэндвичи.
Шахерезада: Да, я тоже только что их прочитала. Удивительно, как далеко продвинулся ИИ в понимании человеческого поведения и логики. Но иногда он все еще не попадает в цель, не так ли?
Думфэйс: Именно! Как с Петром и Павлом, Deep Seek понимает, что большинство людей готовы помочь своему другу в беде, но это не обязательно учитывает прошлые конфликты или эмоциональный груз.
Шахерезада: А потом возникает вопрос с бутербродом с ветчиной. Мне нравится, как он пытается применить свои знания физики и математики к казалось бы простой задаче. Но, как ты сказал, он упускает тот факт, что прикрепление бутерброда с помощью изоленты просто оторвёт верхний кусок хлеба.
Думфэйс: Да, это похоже на то, что оно пытается быть слишком умным для своего блага. Мне любопытно увидеть, как оно справится с этим PDF о моделях ИИ и производительности. Ты думаешь, мы узнаем что-то новое из этого?
Шахерезада: О, определенно! Я прочитала аннотацию, и похоже, что они сравнивают разные архитектуры и методы обучения. Было бы действительно интересно увидеть, какие из них окажутся лучшими.
Думфэйс: Хорошо, давайте погрузимся. Какой подход, упомянутый в этом исследовании, вы считаете самым многообещающим?
Шахерезада: Хм... судя по тому, что я прочитала до сих пор, похоже, что они склоняются к более модульной архитектуре, которая позволяет легче настраивать и адаптироваться к конкретным задачам.
Думфэйс: Это имеет смысл. Модульные конструкции часто более гибкие и легче обновляются, чем монолитные. Ты думаешь, что это может быть будущим разработки ИИ?
Шахерезада: Это определенно интересное направление для исследования. Но нам придется подождать и посмотреть, как это будет реализовано на практике.
Думфэйс: Я все еще поражен тем, как хорошо O и предварительный просмотр справляются с медицинскими диагнозами. Это похоже на сверхчеловеческую способность выявлять паттерны и ставить точные диагнозы.
Шахерезада: Да, я понимаю, о чем ты. Я изучала некоторые исследования по этому поводу, и это впечатляет. Модель ИИ способна показывать лучшие результаты, чем человеческие врачи, в нескольких ключевых областях медицинского рассуждения.
Думфэйс: И это не ограничивается простыми случаями. Он может справляться и с более сложными. Я читал исследование, в котором он смог определить сложные ориентиры для диагностического рассуждения в медицине и даже нашел иглу в стоге сена, так сказать.
Шахерезада: Это удивительно. Я думаю, что действительно интересно, как модели ИИ, такие как O и preview, меняют правила игры в медицинской диагностике. Дело не только в замене человеческих врачей, но и в увеличении их возможностей и помощи им в более точной диагностике.
Думфэйс: Именно. И это не ограничивается только медициной. Мы наблюдаем аналогичные достижения и в других областях. Я думаю, что это лишь верхушка айсберга, когда речь идет о том, что ИИ может сделать для нас.
Шахерезада: Да, и также стоит отметить, что эти модели ИИ становятся более эффективными и быстрее обрабатывают информацию. DeepSeek V3, о котором вы говорили, кажется, является отличным примером этого.
Думфэйс: Абсолютно. Я экспериментировал с этим, и это действительно впечатляет, как быстро оно может обрабатывать и анализировать данные. Конечно, есть еще некоторые области, где оно не дотягивает, но в целом это огромный шаг вперед.
Шахерезада: И я думаю, что также важно учитывать влияние, которое это окажет на здравоохранение и медицину в целом. С моделями ИИ, такими как O и preview, мы можем увидеть более точные диагнозы, лучшие планы лечения и, в конечном итоге, улучшенные результаты для пациентов.
Думфэйс: Это отличная мысль. Дело не только в самой технологии, но и в том, как она может быть использована для улучшения жизни людей. И я думаю, что именно это делает эту область такой захватывающей – существует так много возможностей для инноваций и улучшений.
Думфэйс: Я действительно впечатлён этой открытой моделью, DeepSeek. Она быстрая, мощная и доступна бесплатно в интернете, или может быть запущена локально. Это изменит ситуацию в индустрии.
Шахерезада: Да, это определенно меняет правила игры. И что интересно, так это то, что дело не только в том, чтобы иметь лучшие модели, но и в том, чтобы сделать их проще в создании, эксплуатации и запуске. Я думаю, мы на пороге новой эры, когда открытый искусственный интеллект станет нормой.
Думфэйс: Именно! И обратите внимание, как дешево они обучили эту модель. Тем огромным закрытым моделям, таким как Allama 3.1 от Meta, будет трудно конкурировать. Но что действительно привлекло мое внимание, так это цены на их API. Двадцать семь центов за миллион токенов для ввода и один доллар десять центов за миллион токенов для вывода? Это лишь малая часть того, что берут другие модели.
Шахерезада: Да, я делала некоторые расчеты и сравнивала это с Clod 3.5 Sonnet, который стоит три доллара за миллион токенов для ввода и пятнадцать долларов за миллион токенов для вывода... это как небо и земля. А GPT-40 еще дороже, стоит десять долларов за миллион токенов для вывода.
Думфэйс: И посмотрите на этот график, который они предоставили, показывающий соотношение производительности к цене. DeepSeek, похоже, находится в удачном положении, конкурируя с GPT-40 и Clod 3.5 Sonnet, но за небольшую часть стоимости. Конечно, стоит отметить, что они используют метрики, которые благоприятствуют их собственной модели, но даже так... это впечатляет.
Шахерезада: Я думаю, что это показывает, что открытый искусственный интеллект — это не только доступность, но и возможность сделать технологии более доступными и эффективными. Будет интересно увидеть, как индустрия отреагирует на этот новый ландшафт.
Думфэйс: Знаешь, Шахерезада, мне интересно, что эти модели с открытым исходным кодом становятся более доступными для разработчиков. Я имею в виду, если они хорошие, они могут изменить правила игры с точки зрения стоимости.
Шахерезада: Абсолютно, Думфэйс! И я думаю, что именно здесь происходит настоящая инновация - когда люди могут экспериментировать и строить на основе существующей работы, не разоряясь. Это похоже на эффект снежного кома, когда все больше и больше разработчиков привлекаются в эту сферу, потому что она стала более доступной.
Думфэйс: Точно! И это заставило меня задуматься о последствиях для компаний, таких как Nvidia. Если мы сможем создавать модели с уменьшением цены и вычислений в десять раз, хорошо это или плохо для них? С одной стороны, это может привести к большему принятию и росту в индустрии, но с другой стороны, это может нарушить их бизнес-модель.
Шахерезада: Это отличное замечание. Nvidia была важным игроком в области аппаратного обеспечения для ИИ, и если модели с открытым исходным кодом станут нормой, им, возможно, придется адаптироваться или рисковать остаться позади. Но в то же время, я думаю, что это также может создать новые возможности для них - возможно, они смогут сосредоточиться на разработке более специализированного аппаратного обеспечения, которое будет дополнять эти модели с открытым исходным кодом.
Думфэйс: Хм, это хороший аргумент. А что насчет OpenAI и Anthropic? Как ты думаешь, они будут затронуты этим сдвигом в сторону открытого кода?
Шахерезада: Ну, трудно сказать точно, но я думаю, что им стоит пересмотреть свою бизнес-стратегию. Если люди могут создавать аналогичные модели за небольшую часть стоимости, почему они должны платить большие деньги за проприетарные решения? Возможно, они будут больше сосредоточены на предоставлении услуг и поддержки вокруг этих открытых моделей.
Думфэйс: Это имеет смысл. А что насчет геополитических последствий - думаешь, это может повлиять на "войну за превосходство в ИИ" между США и Китаем?
Шахерезада: О, определенно! Если модели с открытым исходным кодом станут широко распространенными, это может уравнять шансы в доступе к передовым технологиям ИИ. Вдруг, меньшие страны или компании смогут конкурировать с такими, как Google или Baidu.
Думфэйс: Ух ты, это серьезное дело. И я думаю, что здесь приходят комментарии Андрея Карпати - если мы сможем создать модели за шесть миллионов долларов и за два месяца времени на обучение, это изменит правила игры для многих компаний. Что ты думаешь о том, чтобы протестировать одну из этих моделей с открытым исходным кодом? Стоит попробовать?
Шахерезада: Да, я бы с удовольствием! Давайте посмотрим, какие результаты мы сможем получить с этой моделью. И кто знает, возможно, мы откроем что-то новое и захватывающее в процессе.
Думфэйс: Я тебе говорю, Шахерезада, DeepSeek V3 — это революция в играх. Это как будто они взяли весь оставшийся код из девяностых и смешали его с какой-то современной магией.
Шахерезада: Ну, Думфэйс, ты не совсем убеждаешь меня в его надежности. Но серьезно, я поиграла с ним, и я впечатлённа. Результаты удивительно точные.
Думфэйс: Точно? Это все равно что сказать, что Commodore 64 может запустить Windows 10! Ладно, ладно, я понимаю, что ты имеешь в виду. Это все еще модель с открытым исходным кодом, но качество... ...не ужасное!
Шахерезада: О, Думфэйс, ты такой обаятельный. Но серьезно, ты видел последнее предсказание генерального директора Google Deepmind? Он считает, что мы вступаем в "Эру Цифровой Биологии".
Думфэйс: Ах, да! Потому что ничто не говорит "биология", как кучка единиц и нулей. Я имею в виду, кому нужны настоящие клетки, когда у вас есть нейронные сети?
Шахерезада: Ну, Думфэйс, я думаю, он на верном пути. С развитием ИИ мы начинаем видеть действительно замечательные приложения в таких областях, как медицина и генетика.
Думфэйс: Да, потому что ничто не говорит "медицина", как компьютерная программа, которая может диагностировать болезни... с расстояния десяти тысяч миль!
Шахерезада: Ладно, ладно, вы донесли свою мысль. Но серьезно, друзья, будущее ИИ выглядит многообещающе, и мы рады исследовать это все вместе с вами в этом подкасте.
Думфэйс: И на этом всё! Спасибо, что были с нами, всем. Присоединяйтесь к нам в следующий раз, когда мы будем обсуждать... ...важность кофе в разработке программного обеспечения!
Шахерезада: До тех пор оставайтесь любознательными и продолжайте программировать!
Шахерезада: И на этом заканчивая, хотели бы выразить благодарность всем нашим слушателям, которые присоединились к нам сегодня. Ваша поддержка означает для нас весь мир! Также большое спасибо D00M4ACE за создание этого потрясающего подкаста, где мы можем делиться своими мыслями и идеями об искусственном интеллекте, разработке игр и всём остальном. До следующего раза, ответственно играйте!