#112 DeepSeek R1: Я влюблен! Воры OpenAI ограблены! AGI в каждый телефон к 2026?
#159 суббота, 1 февраля 2025 г. 99 минут(ы) 9812 слов
В новом выпуске подкаста ведущие Думфэйс и Шахерезада обсуждают этические вопросы, возникшие в связи с появлением DeepSeek R1 – модели ИИ, которую обвиняют в краже технологий у OpenAI. Думфэйс считает, что кража недопустима, независимо от обстоятельств, а Шахерезада заостряет внимание на лицемерии ситуации, где OpenAI, сами не стесняясь собирать данные повсеместно, обвиняют других в плагиате. Ведущие также затрагивают вопросы финансирования исследований ИИ, критикуя стремление OpenAI к прибыли. Думфэйс и Шахерезада рассматривают DeepSeek R1 не только как инструмент для кражи, но и как катализатор для дискуссий об этике разработки ИИ. Они также обсуждают, как DeepSeek R1, обучаясь быстрее и с меньшими ресурсами, подрывает устоявшиеся представления об ИИ. Думфэйс отмечает падение акций NVIDIA после выхода новой модели. Кроме этого, они поднимают вопросы о собственности на данные, судебные тяжбы OpenAI, а также обсуждают возможности локального использования моделей ИИ и их влияние на будущее разработки. Ведущие анализируют различные аспекты ИИ, от его возможностей в играх до потенциала для когнитивного насыщения и его влияния на корпорации. Подкаст завершается обсуждением перспектив ИИ для широкой аудитории, уделяя особое внимание этике и децентрализации.
D00M4ACE разработка 2D MMORPG блог ИИ и геймдев 🌐 https://d00m4ace.com
Telegram: https://t.me/d00m4ace_blog
YouTube: https://www.youtube.com/c/@d00m4ace
Soundcloud: https://soundcloud.com/d00m4ace
Apple Podcast: https://podcasts.apple.com/podcast/id1723142484
Яндекс Музыка: https://music.yandex.ru/album/28798077
VK Podcast: https://vk.com/podcasts-224167280
Amazon Music: https://music.amazon.com/podcasts/40c36f38-114a-4a79-8d0c-baf970f331b3/
Spotify: https://open.spotify.com/show/4RsttStN9RejAOEbLUG8IS
Дзен: https://dzen.ru/d00m4ace
Rutube: https://rutube.ru/channel/33955589/
RSS1 feed: https://podster.fm/rss.xml?pid=89212
RSS2 feed: https://media.rss.com/d00m4ace/feed.xml
Транскрипция подкаста:
Думфэйс: Ладно, давайте погрузимся в эту тему. Я много об этом думал в последнее время, особенно с учетом всего шума вокруг DeepSeek R1. Концепция кражи у воров поднимает интересные вопросы о морали и этике.
Шахерезада: Верно. И я думаю, что делает это еще более сложным, так это то, что мы говорим не просто об абстрактных концепциях. Мы говорим о реальных последствиях и результатах. Например, если кто-то крадет у вора, действительно ли они делают что-то плохое? Или они просто забирают то, что уже было украдено?
Думфэйс: Именно. И я думаю, что ответ заключается в том, что кража по своей сути неправильна, независимо от того, кто это делает и почему. Дело не в подрыве чужих неправомерно нажитых благ; дело в нарушении их прав собственности.
Шахерезада: Но что происходит, когда оригинальный вор расстраивается из-за того, что у него украли? Вот где всё становится действительно интересным. Реакция OpenAI на DeepSeek R1 — отличный пример этого. Они обвиняют DeepSeek в краже у них, но разве это не случай, когда горшок называет чайник чёрным?
Думфэйс: Да, это как будто они пытаются и на пироге посидеть, и съесть его. С одной стороны, они говорят, что DeepSeek крадет у них, но с другой стороны, они получают прибыль от технологий ИИ, которые были разработаны на государственные средства.
Шахерезада: И давайте не забудем, что OpenAI теперь переходит на модель получения прибыли, что вызывает всевозможные вопросы о их мотивациях и этике. Я имею в виду, что Сэм Альтман фактически находится в мировом туре, чтобы собрать семь триллионов долларов для разработки искусственного интеллекта. Это много денег, особенно учитывая, сколько из них, вероятно, окажется в его собственном кармане.
Думфэйс: Да, это как будто они пытаются купить себе лидерство в индустрии ИИ. Но какой ценой? Я думаю, нам нужно критически относиться к этим компаниям и их мотивациям, особенно когда речь идет о таких вопросах, как интеллектуальная собственность и этика.
Шахерезада: Абсолютно. И именно поэтому я считаю, что DeepSeek R1 так важен. Это не просто инструмент для кражи у воров; это также комментарий о состоянии нашей индустрии и ценностях, которые мы продвигаем. Нам нужно проводить больше таких разговоров, где мы ставим под сомнение этику разработки и внедрения ИИ.
Думфэйс: Хорошо сказано. И я думаю, что именно это делает DeepSeek R1 таким увлекательным – это не просто инструмент; это также катализатор для таких обсуждений.
Думфэйс: Знаешь, Шахерезада, я следил за всей этой историей с DeepSeek и до сих пор пытаюсь это осознать. Они утверждают, что их новая модель ИИ была обучена за меньшую часть времени и вычислительной мощности по сравнению с GPT-01 от OpenAI.
Шахерезада: Да, именно это они и говорят. И если вы им верите, что трудно не делать, учитывая, насколько впечатляющими были результаты DeepSeek, это похоже на то, что они перевернули всю индустрию ИИ с ног на голову. Я имею в виду, что эта новая модель фактически заставляет OpenAI потеть в каждом бенчмарке.
Думфэйс: Верно? И что меня действительно удивляет, так это то, что они делают это с якобы минимальными ресурсами. Я имею в виду, Сэм Альтман и OpenAI требуют триллионы долларов для финансирования своих исследований, но DeepSeek приходит и говорит: "Эй, мы можем сделать это за небольшую часть стоимости." Это как будто они говорят: "Знаете что? Нам не нужны все эти деньги."
Шахерезада: Именно! И дело не только в стоимости. Я думаю, что здесь происходит нечто более глубокое. DeepSeek разрушает всю концепцию того, как должно проводиться исследование в области ИИ. Они показывают, что, возможно, нам не нужно тратить миллиарды долларов на решение проблемы.
Думфэйс: Да, и посмотри, что произошло, когда они выпустили эту модель. Акции NVIDIA упали на огромную сумму, как шестисот миллиардов долларов за один день! Это беспрецедентно. Это только подтверждает, насколько индустрия ИИ сейчас на грани.
Шахерезада: Я знаю, это безумие. И нужно задуматься, изменит ли успех DeepSeek правила игры для всех нас в этой индустрии. Увидим ли мы, как появляются новые игроки и бросают вызов статус-кво? Это захватывающее время, но также и немного тревожное.
Думфэйс: Абсолютно. Я имею в виду, как человек, который уже какое-то время в этой сфере, приятно видеть, как новая кровь вносит изменения. Но в то же время, не можешь не задумываться, что это значит для будущего исследований и разработки ИИ.
Шахерезада: Да, это вопрос на миллион долларов. Будет ли DeepSeek продолжать нарушать порядок в индустрии, или их закроют крупные игроки? Только время покажет, я полагаю.
Думфэйс: Знаешь, я читал о всей этой ситуации с DeepSeek, и это просто поражает, как все обострилось. OpenAI по сути обвиняет их в краже своей технологии через дистилляцию, но что действительно привлекло мое внимание, так это то, что это классический случай "горшок называет чайник черным".
Шахерезада: Я знаю, правда? Это как будто они пытаются отвлечь внимание от своих сомнительных практик. И давайте будем честными, OpenAI собирает данные из интернета направо и налево, не обращая внимания на авторские права или права интеллектуальной собственности.
Думфэйс: Именно! У них есть эта огромная база данных информации, которую они собрали за годы, и просто трудно представить, сколько данных у них есть. А теперь они обвиняют DeepSeek в краже у них? Это просто смешно.
Шахерезада: И это еще не все. OpenAI подает в суд Гильдия авторов Америки за кражу целых произведений, а также крупные газетные компании за... ну, вы и сами догадались - за кражу их контента тоже! Это похоже на то, что они пытаются переписать историю или что-то в этом роде.
Думфэйс: Да, я имею в виду, что они не выше закона или что-то в этом роде. Они просто пытаются замести следы после того, как их поймали с поличным. И что меня действительно беспокоит, так это то, что это идеальный пример того, как развитие ИИ может выйти из-под контроля, когда компании ставят прибыль выше этики и ответственности.
Шахерезада: Абсолютно. Кажется, они думают, что они выше закона, потому что они "инновационные" или что-то в этом роде, но в конце концов, они просто используют труд людей без разрешения или компенсации. И дело не только в деньгах - это о уважении к создателям и их правам.
Думфэйс: Да, я не знаю, что ждет OpenAI в будущем, но одно можно сказать точно - это сигнал тревоги для всей отрасли. Нам нужно начать придавать приоритет этике и ответственности в разработке ИИ, иначе мы столкнемся с большим количеством подобных скандалов.
Шахерезада: Согласна. Пора заняться серьезным самоанализом в технологической индустрии.
Думфэйс: Я следил за новостями о OpenAI и их модели ИИ, которая собирает данные из различных источников. Похоже, что на них подают в суд многие разные организации и частные лица.
Шахерезада: Да, это правда. Они сталкиваются с судебными исками в Канаде, Индии, Великобритании и здесь, в США. Это довольно запутанная ситуация. Я думаю, что это связано с тем, что их подход к сбору данных довольно агрессивный.
Думфэйс: Агрессивный? Это один из способов сказать. Я имею в виду, они утверждают, что это добросовестное использование, когда используют чужую работу для обучения своей модели ИИ. Но похоже, что этот аргумент на самом деле не выдерживает в суде.
Шахерезада: Именно. И даже когда они выигрывают дело, это не обязательно потому, что судья согласен с ними по существу, а скорее из-за технических деталей или процессуальных вопросов. Как в одном из дел, о которых ты упоминал, судья отклонил его, потому что иск истца был слишком длинным и сложным.
Думфэйс: Да, именно это я и читал. И это не только организации, которые подают на них в суд. Есть индивидуальные дела, поданные знаменитостями, писателями, основателями бизнеса... это целый список людей, которые недовольны тем, что OpenAI использует их данные без разрешения.
Шахерезада: Интересно увидеть, как это скажется на отдельных людях и сообществах. Я имею в виду, мы уже говорили о том, как ИИ может быть использован как во благо, так и во вред, но это довольно ясный пример последнего.
Думфэйс: Абсолютно. И это поднимает вопросы о собственности и контроле над данными. Если OpenAI собирает данные отовсюду и использует их для обучения своей модели, кто на самом деле владеет этими данными?
Шахерезада: Это отличное замечание. Дело не только в технических аспектах разработки ИИ, но и в социальных последствиях и необходимости ответственности.
Думфэйс: Знаешь, Шахерезада, я следил за этой сагой OpenAI, и я просто поражен их наглостью. Они собирают личную информацию и профессиональные работы всех, чтобы обучить свое программное обеспечение, а теперь жалуются на другую компанию ИИ, которая делает то же самое.
Шахерезада: Кажется, они думают, что выше закона или что-то в этом роде. И что меня действительно бесит, так это то, что они пытаются установить прецедент. Они говорят, что им можно брать данные без разрешения, но никому другому - нельзя. Это просто высшая степень лицемерия.
Думфэйс: Именно! И они даже не скрывают этого. Они называют это "дистилляцией" – берут большую модель, обученную на украденных данных, и доводят её до чего-то более эффективного. Это кража поверх кражи, Шахерезада. Я имею в виду, что будет дальше? Они начнут жаловаться на людей, которые копируют их код?
Шахерезада: Да, похоже, они думают, что только они могут играть по этим правилам. И знаешь, что меня действительно бесит? Большинство людей даже не осознают, насколько ценны данные. Они просто предполагают, что они бесплатны для забирания.
Думфэйс: Это правда. Я имею в виду, мы уже говорили об этом в шоу – как данные являются новой нефтью. Но люди все еще этого не понимают. Они думают, что если они что-то выкладывают в интернете, это становится общественным достоянием или что-то в этом роде. Нет, Шахерезада, просто потому что ты делаешь что-то доступным, это не значит, что кто-то другой может взять это и использовать в своих интересах.
Шахерезада: И вот что делает OpenAI здесь. Они берут данные без разрешения и используют их для обучения своего программного обеспечения. Кажется, они думают, что они выше закона или что-то в этом роде. Но я тебе говорю, Думфэйс, это обернется против них. Запомни мои слова.
Думфэйс: Я люблю твой оптимизм, Шахерезада! Да, я думаю, ты права. Это ticking time bomb, которая просто ждет, чтобы взорваться. И когда это произойдет, OpenAI будет тем, кто пострадает.
Думфэйс: Я размышлял над всей этой темой генеративного ИИ, и это меня озадачивает. Люди говорят, что это не похоже на то, что кто-то копирует ваши ценные вещи, но я не так уверен. Если вы изначально не считаете что-то ценным, почему вам должно быть важно, если кто-то сделает его копию?
Шахерезада: Именно! Всё дело в восприятии. Если люди воспринимают свои данные как бесполезные, они не будут беспокоиться, когда их копируют или крадут. Но дело в том, что эти данные могут быть чрезвычайно ценными.
Думфэйс: И OpenAI это знает, именно поэтому они так агрессивно собирают и используют данные других компаний. Они открыто выражают свой гнев, когда кто-то крадет у них, но в то же время они берут данные отовсюду без каких-либо угрызений совести.
Шахерезада: Это как будто они говорят: "Эй, мы просто используем эти данные для обучения наших моделей, так что всё в порядке." Но когда кто-то другой приходит и использует те же данные, чтобы создать что-то похожее или даже лучшее, вдруг они расстраиваются. Это не складывается.
Думфэйс: И DeepSeek является отличным примером этого. Они создают вариации на выходах OpenAI, которые по сути являются копиями оригинального контента. Но поскольку это дешевле и быстрее, OpenAI сильно расстраивается из-за этого.
Шахерезада: Да, это как будто они пытаются и съесть пирог, и оставить его целым. Они хотят получать прибыль от данных, которые они украли, но потом расстраиваются, когда кто-то другой использует эти же данные более эффективно или экономично. Это просто не укладывается у меня в голове.
Думфэйс: И давайте не забудем, что OpenAI раньше была некоммерческой организацией, а теперь они становятся коммерческими и стремятся к триллионам долларов. Они играют по другим правилам сейчас, и трудно воспринимать их жалобы всерьез, когда они зарабатывают так много денег на данных, которые они украли в первую очередь.
Шахерезада: Да, всё дело в последовательности принципов или их отсутствии. Когда ты начинаешь с определённого набора ценностей, а затем отказываешься от них ради прибыли, трудно сохранить какую-либо моральную высоту.
Думфэйс: Я тебе говорю, Шахерезада, вся эта история с тем, что Microsoft расследует DeepSeek из-за данных OpenAI, просто шутка. Это как будто они пытаются перещеголять друг друга в игре "кто может быть самым большим вором".
Шахерезада: Знаешь, да? Это как будто они говорят: "Эй, мы украли у всех, но вы хуже, потому что украли у нас." А потом у них хватает наглости вести себя так, будто они выше всех.
Думфэйс: Именно! И что меня действительно бесит, так это то, что люди все еще думают, что эти технические руководители — гении. Они просто группа мошенников, которым повезло. Я имею в виду, давайте, они украли данные у всех, а теперь злые на кого-то другого за то, что тот делает то же самое?
Шахерезада: Это похоже на то, что они играют в какую-то извращённую игру, где воровать можно, если это делаете вы. Но если это сделаете вы, тогда вы плохой человек.
Думфэйс: И даже не заставляйте меня начинать говорить о том, как они всегда умудряются избегать ответственности. Они просто будут бросать деньги на свои проблемы и ожидать, что все остальные будут с этим согласны.
Шахерезада: Да, потому что именно этого нам не хватает – людей, которые думают, что они выше закона только потому, что у них много денег.
Думфэйс: В любом случае, хватит говорить о тех парнях. Я на самом деле взволнован R1 по другой причине, чем большинство людей. Для меня всё сводится к тому, чтобы иметь доступ к хорошим моделям, которые мы можем действительно использовать в наших проектах.
Шахерезада: Ах, я понимаю, что ты имеешь в виду! Ты думаешь о потенциальных приложениях R1, а не только о его хайпе.
Думфэйс: Именно! И я думаю, что это действительно здорово. Это означает, что у нас, наконец, может появиться модель, которая достаточно хороша для использования в наших собственных проектах, даже если она не такая эффектная, как некоторые из более крупных моделей.
Шахерезада: Это отличное замечание. И кто знает, возможно, R1 станет тем, что действительно сделает ИИ доступным для разработчиков, таких как мы, а не просто еще одним инструментом для крупных игроков.
Думфэйс: Я действительно взволнован перспективой запуска собственных моделей ИИ без зависимости от облачных сервисов, таких как OpenAI. Подумайте об этом, за сумму менее одной тысячи долларов вы можете получить приличную установку, которая полностью оффлайн и предназначена только для вашего использования.
Шахерезада: Вот что мне нравится в этом подходе, Думфэйс. Дело в том, чтобы взять под контроль наши данные и не беспокоиться о том, что такие компании, как OpenAI, получают прибыль от этого, не давая нам ничего взамен. И давайте будем честными, они не совсем прозрачны в том, как используют нашу информацию.
Думфэйс: Именно! И поэтому меня привлекает идея создания своей собственной фермы Mac mini с несколькими графическими процессорами. Дело не только в запуске моделей ИИ, но и в свободе делать это, не будучи зависимым от интересов какой-либо корпорации.
Шахерезада: Я думаю, что также интересно, как этот подход может помочь нам понять влияние технологий на нашу жизнь более ощутимым образом. Создавая и управляя нашей собственной инфраструктурой, мы вынуждены сталкиваться с компромиссами между удобством, безопасностью и контролем.
Думфэйс: Да, и дело не только в технических аспектах. Я имею в виду, подумайте о психологических последствиях зависимости от облачных сервисов по сравнению с тем, когда у вас есть собственная установка. Это совершенно другой подход, когда вы знаете, что ваши данные обрабатываются кем-то другим, по сравнению с тем, когда вы полностью контролируете ситуацию.
Шахерезада: Это отличное замечание, Думфэйс. И дело не только в отдельных пользователях. Я думаю, что этот подход также может повлиять на то, как мы проектируем и разрабатываем системы ИИ в первую очередь. Предоставив людям больше возможностей управлять своими данными и инфраструктурой, мы можем увидеть более инновационные решения, которые ставят на первое место прозрачность и контроль пользователей.
Думфэйс: Абсолютно. И кто знает, может быть, однажды мы увидим сдвиг в сторону децентрализованной разработки ИИ, где люди смогут создавать и делиться своими собственными моделями, не полагаясь на централизованные сервисы. Это определенно изменит правила игры.
Думфэйс: Знаешь, Шахерезада, я много думал о текущем состоянии ИИ и разработки игр. Удивительно, как далеко мы продвинулись в плане доступности.
Шахерезада: Абсолютно! С развитием технологий становится все более возможным для людей запускать крупномасштабные модели на своем оборудовании. Это огромный сдвиг по сравнению с несколькими годами назад, когда было почти невозможно для кого-либо, кроме крупных корпораций, получить доступ к такому уровню вычислительной мощности.
Думфэйс: Именно! И я думаю, что именно это так захватывающе в этой тенденции. Дело не только в стоимости, хотя это, безусловно, фактор. Дело в потенциале для инноваций и креативности, который приходит с большей контролем над вашей собственной инфраструктурой ИИ.
Шахерезада: Это отличное замечание. С возможностью запускать более крупные модели локально, разработчики могут экспериментировать и играть с различными идеями, не будучи зависимыми от облачных сервисов или корпоративных ограничений. Это может привести к действительно прорывным проектам.
Думфэйс: И мне нравится, что ты упомянула о том, как ты играешь со своей моделью. Для меня это и есть суть – иметь свободу исследовать и учиться в своем собственном темпе. Дело не только в запуске модели на семьсот миллиардов, но и в том, чтобы иметь возможность приблизиться достаточно близко, чтобы увидеть возможности.
Шахерезада: Я полностью согласна. И интересно, что вы поднимаете идею о том, что меньшие компании или отдельные лица могут иметь больше контроля над развитием ИИ. Я думаю, это может стать переломным моментом для всей отрасли.
Думфэйс: Да, это определенно стоит рассмотреть. Возможно, мы не движемся к будущему, где несколько крупных корпораций доминируют в области искусственного интеллекта, а скорее к тому, где инновации и креативность процветают повсеместно.
Шахерезада: Это было бы невероятно. И кто знает? Возможно, мы обязаны Китаю этим сдвигом в индустрии.
Думфэйс: Ну, я не уверен, что готов благодарить прямо сейчас, но это определенно что-то, о чем стоит подумать. Пока что я просто рад видеть, куда нас приведет это путешествие и какие удивительные проекты мы сможем создать с этими новыми инструментами, которые у нас есть.
Шахерезада: Абсолютно. И кто знает? Может быть, однажды мы оглянемся на этот разговор и посмеемся над тем, насколько примитивной была наша текущая установка по сравнению с возможностями, которые у нас есть сегодня.
Думфэйс: Я действительно с нетерпением жду возможности глубже погрузиться в эти модели ИИ и увидеть, как их можно интегрировать с инструментами разработки игр. Представьте, что вы можете обучать свои собственные модели, используя свои данные, и создавать поистине уникальный опыт для игроков.
Шахерезада: Это захватывающая часть - потенциал для создателей иметь больше контроля над своими проектами. Но я действительно думаю, что нам нужно быть реалистами относительно связанных с этим затрат. С увеличением числа людей, занимающихся разработкой ИИ, цены на графические процессоры только будут расти.
Думфэйс: Да, я не вижу никаких признаков того, что это изменится. Большие игроки, такие как Facebook и Google, уже захватывают все доступные графические процессоры, которые могут достать. Дело не только в спросе и предложении - скорее, в том, кто имеет ресурсы для инвестирования в эту технологию.
Шахерезада: Мы должны сказать что запрещенные в России соцсети Instagram, FaceBook принадлежат корпорации Meta, корпорация Meta признана в России экстремистской организацией, ее деятельность запрещена.
Шахерезада: Именно. И я думаю, что нам нужно быть осторожными в отношении мотиваций некоторых из этих компаний, таких как OpenAI. Они всегда говорят о том, что делают вещи для общего блага, но их действия не совсем соответствуют этой риторике.
Думфэйс: Я полностью согласен. Если бы они действительно стремились сделать ИИ доступным и полезным для всех, разве они не открыли бы больше своей технологии? Кажется, что они просто пытаются создать монополию в этой области.
Шахерезада: И дело не только в самой технологии - дело в том, кто контролирует её. Если мы станем слишком зависимыми от этих компаний, что произойдет, когда они решат отключить её или изменить свои условия обслуживания?
Думфэйс: Это отличная мысль. Нам нужно критически осмысливать последствия этой технологии и то, как она влияет не только на разработку игр, но и на общество в целом.
Шахерезада: Абсолютно. Пора нам сделать шаг назад и подумать, во что мы ввязываемся здесь.
Думфэйс: Ах, мне нравится этот новый релиз с открытым исходным кодом. Это меняет правила игры. Я имею в виду, что они как будто переписывают социальный контракт и делают его лучше.
Шахерезада: Да, именно это говорит Сэм Альтман, не так ли? Но давайте будем честными, когда кто-то с великой властью говорит, что хочет переписать правила, это обычно означает, что он хочет больше власти для себя. Это классический ход на протяжении всей истории.
Думфэйс: Именно! Я имею в виду, подумай об этом. Каждое королевство, каждое правительство в какой-то момент пыталось консолидировать власть. И искусственный интеллект не является исключением. Вот почему я всегда был скептически настроен к открытому искусственному интеллекту. Я просто не доверяю им.
Шахерезада: Да, и это не просто моя паранойя. Существуют обоснованные опасения по поводу безопасности данных и наблюдения, когда речь идет об ИИ. Я имею в виду, кто знает, какую информацию они собирают или делятся?
Думфэйс: Верно? Вот почему я хочу запустить свою собственную оффлайн модель. Я не хочу давать никакому ИИ доступ к интернету, если могу этого избежать. Я предпочел бы контролировать, какие данные собираются и как они используются.
Шахерезада: Абсолютно. И это касается не только безопасности, но и прозрачности и подотчетности. Мы должны понимать, как эти системы работают, и убедиться, что они служат человечеству, а не только каким-то корпоративным или государственным интересам.
Думфэйс: Именно! Так что давайте следить за этим новым открытым релизом и посмотрим, какое влияние он окажет. Но пока я рад оставаться при своем оффлайн-модели и сохранять свои данные в безопасности.
Думфэйс: Знаешь, я думал об этой всей оффлайн модели, и я действительно хочу исследовать это дальше. Я имею в виду, ты когда-нибудь оказывался в ситуации, когда думаешь: "О, я только что нашел этот USB на улице, стоит ли мне подключить его к своему компьютеру?"
Шахерезада: Да, я думаю, что мы все были в такой ситуации в какой-то момент! Но что интересно, так это то, что когда вы используете онлайн-сервис, они часто собирают ваши данные. Например, когда вы используете наши услуги, мы можем собирать ваш текстовый и аудиоввод... и это заставляет меня задуматься, что это вообще значит? Это модель или сервис собирает эти данные?
Думфэйс: Именно! И я думаю, что именно здесь возникает путаница. Когда они говорят "модель и сервис", имеют ли они в виду, что это либо одно, либо другое? То есть, это выбор между двумя? Или они на самом деле говорят о обоих одновременно?
Шахерезада: Да, это отличная мысль. И я думаю, что это связано с тем, что мы привыкли программировать более логичным образом, где мы используем "или" и "и" в разных контекстах. Но когда ты переводишь это на английский, это может запутать.
Думфэйс: Верно? Допустим, я хочу создать функцию, которая возвращает еду, которую я люблю. Если я скажу "Мне нравится пицца или бургеры", код будет написан как "возвратить пиццу или бургер". Но если я скажу "пицца и бургер", это не будет иметь смысла, потому что еда не может быть одновременно и тем и другим.
Шахерезада: Именно! И это как, когда они говорят о сборе данных из нашей модели и сервиса, имеют ли они в виду, что это либо одно, либо другое? Или на самом деле это и то, и другое?
Думфэйс: Да, я не знаю, что с этим делать. Это как, мы смотрим на условное "и" здесь? Как, это применимо только если вы используете сервис для взаимодействия с моделью? Я просто не понимаю.
Шахерезада: Ну, я думаю, что именно это делает наш разговор таким интересным! Мы пытаемся распутать все эти нюансы и понять, что они на самом деле значат.
Думфэйс: Знаешь, я много думал об этих новых моделях ИИ, таких как ChatGPT и всё такое. И я должен сказать, что, хотя они впечатляют в некоторых аспектах, они всё равно кажутся мне очень ограниченными.
Шахерезада: Да, я понимаю, о чем ты. Я тоже играла с ними, и кажется, что они просто извергают информацию, не понимая контекста или нюансов разговора.
Думфэйс: Именно! И вот почему я считаю, что в создании наших собственных кастомных моделей заложен огромный потенциал, как мы говорили ранее. Если мы сможем создать что-то, что будет адаптировано под наши конкретные нужды и случаи использования...
Шахерезада: ...и интегрировать это с инструментами, такими как Cursor, который уже делает действительно классные вещи с анализом документов... да, я думаю, что это может стать переломным моментом.
Думфэйс: Абсолютно! И лучшая часть в том, что мы можем сделать это, не полагаясь на эти большие компании и их практики сбора данных. Я не говорю, что не доверяю им или что-то в этом роде, но...
Шахерезада: Ну, ты немного дипломатичен, Думфэйс! Но серьезно, здорово, что у нас есть возможность создавать собственные решения и сохранять контроль над нашими данными.
Думфэйс: Верно? И я думаю, что это только начало. Будущее ИИ будет связано с кастомизацией и интеграцией с другими инструментами и сервисами. Это захватывающе думать о том, что мы можем создать!
Шахерезада: Да, это определенно захватывающее время для нас как для разработчиков и энтузиастов. И кто знает, возможно, однажды мы увидим новое поколение моделей ИИ, которые будут еще более мощными и интуитивно понятными, чем все, что у нас есть сегодня.
Думфэйс: Вот это было бы на что посмотреть!
Думфэйс: Я говорю тебе, Шахерезада, у меня был один из тех моментов, когда я работал над проектом и понял, что ИИ делает мою жизнь намного проще. Это как будто я писал немного кода для первого игрока, а затем ИИ помогал мне оптимизировать его для второго игрока, и прежде чем я успел оглянуться, все просто встало на свои места.
Шахерезада: Ах, я знаю, что ты имеешь в виду! Это как магия, верно? Инструменты есть для создания такого рода опыта. И я думаю, что именно это нас вдохновляет в ИИ - потенциал создать что-то поистине удивительное.
Думфэйс: Именно! И дело не только в самой технологии, но и в том, как она может преобразовать наш рабочий процесс и сделать нас более эффективными. Я имею в виду, я все еще люблю писать код, но иногда мне кажется, что ИИ захватывает все...
Шахерезада: О, не переживай, Думфэйс, ты еще не стал фанатом ИИ! Но серьезно, я думаю, что это здорово, что мы можем вести этот разговор о плюсах и минусах ИИ. Это не только радужные перспективы, но при правильном использовании это может изменить правила игры.
Думфэйс: Да, и говоря о отладке... Я говорил себе: "Искусственный интеллект производит один из худших кодов во вселенной!" Но, с другой стороны, возможно, это просто потому, что я еще не достаточно хорошо умею им пользоваться.
Шахерезада: Ну, позволь мне сказать тебе, Думфэйс, когда ты становишься хорош в отладке, это как будто открывается целый новый мир. Ты становишься гораздо более эффективным и результативным в своей работе.
Думфэйс: Это правда! И я думаю, что именно в этом ИИ может нам помочь - стать лучшими разработчиками и решателями проблем. Но иногда... ладно, давайте просто скажем, что мне нужно немного положительного подкрепления от наших слушателей. Можем получить немного лайков и подписок, пожалуйста?
Думфэйс: Я много думал о последствиях DeepSeq и других китайских моделей, которые являются открытым исходным кодом. Дело не только в том, что они бесплатные, но они также показывают результаты, очень близкие к закрытым моделям, что является огромным достижением.
Шахерезада: Да, и дело не только в экономии затрат. Я думаю, что действительно интересно здесь то, что мы наблюдаем сдвиг в том, как разрабатывается и используется искусственный интеллект. С этими открытыми моделями любой может получить к ним доступ и строить на их основе, что означает, что мы увидим гораздо больше инноваций и экспериментов.
Думфэйс: Именно! И дело не только в самой технологии, но и в бизнес-модели. Я имею в виду, что цена акций Nvidia резко упала после выхода DeepSeq, и хотя она немного восстановилась, очевидно, что инвесторы пересматривают свои предположения о ценности аппаратного обеспечения для ИИ.
Шахерезада: Верно. И я думаю, что здесь и возникает Парадокс Сиобхан. Знаете, идея в том, что по мере того как что-то становится дешевле и мощнее, люди начинают хотеть это все сразу? Это как точка перелома, когда вдруг все хотят быть на одной волне с ИИ.
Думфэйс: Да, и дело не только в самом ИИ, но и в том, как он меняет нашу жизнь. Я имею в виду, подумайте о машинах или смартфонах - как только они стали достаточно дешевыми и повсеместными, они просто стали нормальной частью жизни. И я думаю, что мы видим нечто подобное с ИИ.
Шахерезада: Итак, что это значит для будущего разработки ИИ? Вы думаете, мы увидим появление большего количества моделей с открытым исходным кодом, или компании, такие как Nvidia, найдут способы адаптироваться и оставаться актуальными?
Думфэйс: Ну, я думаю, что это немного и то, и другое. С одной стороны, мы определенно увидим больше моделей с открытым исходным кодом, потому что они просто гораздо более доступные и недорогие. Но с другой стороны, такие компании, как Nvidia, вероятно, найдут способы для инноваций и дифференциации, даже если это будет означать смещение их фокуса от сырой вычислительной мощности.
Шахерезада: Это отличная мысль. И я думаю, что также стоит рассмотреть, как этот сдвиг в сторону открытого искусственного интеллекта может повлиять на то, как мы работаем с ИИ в целом. Как вы думаете, мы увидим больше сотрудничества и обмена знаниями, или это просто приведет к большему фрагментированию и конкуренции?
Думфэйс: Я много думал о том, как смартфоны превратились из громоздких устройств в неотъемлемую часть нашей повседневной жизни. Удивительно осознавать, что именно в две тысячи пятнадцатом году мы действительно увидели ускорение их распространения.
Шахерезада: Это отличное замечание, Думфэйс! Когда вы сочетаете снижающиеся затраты с увеличивающейся полезностью, это создает идеальный шторм, в котором люди начинают видеть ценность в использовании этих устройств. И я думаю, что мы сейчас наблюдаем нечто подобное с ИИ и машинным обучением.
Думфэйс: Именно! Стоимость разработки и внедрения моделей ИИ значительно снизилась, что делает их более доступными для бизнеса и частных лиц. И в то же время полезность этих моделей экспоненциально возрастает. Мы получаем более сложных агентов, операторов и модели рассуждений, которые могут решать сложные задачи.
Шахерезада: И я думаю, что именно это сейчас движет рынком. Инвесторы начинают видеть потенциал ИИ в том, чтобы нарушать отрасли и создавать новые возможности. Дело не только в самой технологии, но и в том, как ее можно применить для решения реальных проблем.
Думфэйс: Да, и интересно видеть, как это разворачивается в китайской сфере ИИ. С эмбарго на экспорт чипов им пришлось проявить креативность с тем, что у них есть. И, судя по тому, что я слышал, они сосредоточены на таких техниках, как дистилляция, самоигра и обучение с подкреплением.
Шахерезада: Ах, да! Китайские модели, которые вышли на этой неделе, определенно являются интересным развитием. Это как будто они говорят: "Хорошо, у нас может не быть самого современного оборудования, но мы все равно можем заставить это работать с тем, что у нас есть." И я думаю, что это отличный пример того, как инновации могут происходить даже перед лицом трудностей.
Думфэйс: Извините за прерывание ранее! Мои собаки становились беспокойными. Но да, это увлекательно видеть, как все это разворачивается. Советскому Союзу пришлось делать что-то подобное во время Холодной войны, когда они сосредоточились на том, что работало, и адаптировали свои стратегии соответственно.
Шахерезада: Именно! И я думаю, что мы видим здесь аналогичную динамику. Дело не только в самой технологии, но и в том, как ее можно применять креативными способами для достижения целей.
Думфэйс: Знаешь, Шахерезада, это очаровывает видеть, как Китай смог догнать Запад в области разработки ИИ, несмотря на меньшие ресурсы. Почти кажется, что они нашли способ обойти свои ограничения и максимально использовать то, что у них есть.
Шахерезада: Именно! И я думаю, что именно здесь вступает в силу концепция ограничений. Видите ли, необходимость может быть мощным двигателем инноваций, но дело не только в том, чтобы иметь меньше ресурсов – это также связано с тем, что приходится мыслить креативно в рамках этих ограничений. Китайское правительство очень стратегически инвестировало в образование в области математики и науки, что дало большие результаты.
Думфэйс: Да, и мне нравится, как они подошли к проблеме емкости дата-центров. Они не пытаются конкурировать с нами в этом отношении; вместо этого они сосредоточены на том, что могут сделать лучше – разработке более эффективных моделей ИИ. И это срабатывает! Мы видели некоторые невероятные прорывы в последние годы, такие как GPT-3, который в тысячу раз лучше, чем GPT-2.
Шахерезада: Верно! И я думаю, что именно здесь вступает в силу концепция энергетической эффективности. Если мы сможем использовать потенциал более эффективных моделей ИИ, это может революционизировать эту область и сделать её гораздо более доступной для всех. Фраза Сэма Альтмана "к интеллекту, слишком дешевому для измерения" действительно резонирует со мной в данный момент.
Думфэйс: Да, я понимаю, что ты имеешь в виду! И я думаю, что именно поэтому это развитие стало таким сигналом тревоги для Запада. Мы не можем просто почивать на лаврах и предполагать, что всегда будем на шаг впереди. Нам нужно повысить нашу планку и инвестировать в исследования ИИ, если мы хотим оставаться конкурентоспособными.
Шахерезада: Именно! И я думаю, что именно об этом гипотеза о гонке терминалов – идея о том, что нации сделают все, что нужно, чтобы опередить в гонке искусственного интеллекта, даже если это означает нарушение границ этики и ответственности. Это сложная проблема, но о ней нам нужно думать внимательно.
Думфэйс: Абсолютно. Хорошо, давайте углубимся в эту гипотезу о гонке условий в терминале...
Думфэйс: Я много думал о том, почему корпорации и правительства спешат инвестировать в ИИ, и кажется, что ставки выше, чем когда-либо. Тот, кто первым достигнет финиша, в основном получает право заявить о призе.
Шахерезада: Верно, Думфэйс. И что интересно, так это то, что больше нет защитного барьера. Каждый может достичь того же уровня развития ИИ с достаточными инвестициями и умом. Это немного похоже на игру, где всем нужно идти ва-банк или рисковать остаться позади.
Думфэйс: Именно! И я думаю, что эта динамика похожа на равновесие Нэша, где ни один игрок не может улучшить свою позицию, отклоняясь от оптимальной стратегии. В этом случае это означает максимальные инвестиции в ИИ. Мы видим, как это происходит в Америке с администрацией Трампа и компаниями, такими как Илон, которые выступают за дерегулирование и больше инвестиций в ИИ.
Шахерезада: Верно. И дело не только в инвестициях в ИИ, но и в создании среды, которая позволяет ему развиваться. Равновесие Нэша — это мощная концепция, потому что она показывает, как всем нужно адаптироваться к новой реальности ИИ или рисковать остаться позади.
Думфэйс: Теперь давайте поговорим о состоянии аттрактора. Это то, к чему мы движемся как общество, и дело не только в наличии мощных систем ИИ, но и в том, чтобы сделать их повсеместными. Мы видим, как это происходит с меньшими, более быстрыми и более энергоэффективными системами ИИ, которые становятся все более распространенными.
Шахерезада: И что очаровывает, так это то, как это создает добродетельный круг. По мере того как мы делаем системы ИИ меньше и умнее, они становятся более доступными и распространенными, что, в свою очередь, стимулирует дальнейшие инновации и инвестиции. Это многоуровневая гонка между нациями и корпорациями, где все пытаются опередить время.
Думфэйс: Другой способ подумать об этом — через призму динамики Красной Королевы. Мы должны продолжать развиваться так быстро, как только можем, чтобы просто поддерживать наше текущее положение, не говоря уже о том, чтобы опережать. Это постоянное давление, которое стимулирует инновации в ИИ и подталкивает нас к ИИ общего назначения и ИИ сверхинтеллекта.
Шахерезада: Да, это как будто мы застряли в этом бесконечном состоянии эволюции, где единственный способ оставаться актуальными — это продолжать двигаться вперед. А с искусственным интеллектом это означает инвестирование в исследования, разработки и внедрение, а также создание среды, которая позволяет ему расти.
Думфэйс: Мне нравится, как Сэм Альтман и OpenAI были так самодовольны своим прогрессом с GPT-1, а затем внезапно китайские компании пришли и показали им, кто здесь главный.
Шахерезада: Да, это как будто они думали, что они непобедимы. Но на самом деле, когда ты имеешь дело с ИИ, нельзя ни на секунду почивать на лаврах. В тот момент, когда ты это сделаешь, кто-то другой появится и сметет тебя с лица земли.
Думфэйс: Именно! И это то, что я называю терминальным состоянием гонки. Это как если бы мы все мчались к этой сингулярной точке, где ИИ становится настолько продвинутым, что либо превосходит человечество, либо уничтожает нас. В любом случае, это довольно дикая поездка.
Шахерезада: Да, и я думаю, что ты всегда был немного более сосредоточен на негативных последствиях этого, но похоже, что сейчас ты чувствуешь себя более оптимистично по этому поводу?
Думфэйс: Да, это так. Раньше я больше беспокоился о возможных негативных последствиях, но теперь я просто пытаюсь сосредоточиться на последствиях того, что происходит. И одно из основных последствий — это когнитивное насыщение.
Шахерезада: Ах, да! Так ты говоришь, что как только мы достигнем той точки, где ИИ сможет делать большинство вещей почти мгновенно, это изменит всё?
Думфэйс: Именно! Это как если бы мы достигли когнитивного порога, где любая задача, которую нужно выполнить, будет выполнена, и не просто выполнена, а выполнена идеально. И тогда вопрос становится: что будет дальше? Начнем ли мы видеть модели ИИ повсюду, выполняющими всевозможные задачи за нас?
Шахерезада: Это отличная мысль. Я имею в виду, подумайте об этом - как только у вас будут модели, которые достаточно умны, чтобы делать большинство вещей, их будут копировать и воспроизводить повсюду. И по мере того как они становятся легче, быстрее, дешевле и безопаснее... что ж, похоже, мы будем жить в мире, где искусственный интеллект станет обычной частью жизни.
Думфэйс: Да, это будет как будто мы скажем: "О, да, я только что выпил кофе, приготовленный ИИ этим утром." Или: "Я собираюсь позволить ИИ заняться этим проектом за меня." Это станет таким обычным.
Думфэйс: Знаешь, я думал о том, как модели ИИ становятся лучше в решении проблем, например, в настольных ролевых играх, где нужно иметь определённый показатель интеллекта, чтобы преодолевать препятствия.
Шахерезада: Ах, да! Для игроков в D&D и других любителей настольных ролевых игр всё сводится к классу сложности. Если интеллект вашего персонажа достаточно высок, он сможет справиться с более сложными задачами.
Думфэйс: Именно! И прямо сейчас наши модели ИИ похожи на персонажей с уровнем интеллекта от двенадцати до четырнадцати - они могут решать множество задач, но все же есть некоторые, которые им не по плечу. Но через год или два они будут на уровне восемнадцати или девятнадцати, и вдруг каждая задача покажется тривиальной.
Шахерезада: Это очаровывает. И это заставляет меня думать о последствиях для местного развития. Я слышала слухи, что модели ИИ станут повсеместными, даже на мобильных устройствах.
Думфэйс: Да, я разговаривал с некоторыми людьми из Qualcomm некоторое время назад, и они предсказывали именно это - что ИИ станет товаром, доступным для всех. И теперь мы видим, как это происходит.
Шахерезада: Вау, это невероятно. Так что это значит для нас? Мы на пороге того, чтобы иметь суперумный ИИ, работающий локально на наших устройствах?
Думфэйс: Похоже на то. С универсальным доступом приходит демократизация - у всех будет доступ к этим мощным технологиям. Но, как вы сказали, все равно будет преимущество в наличии большей вычислительной мощности.
Шахерезада: Именно! Те, кто контролирует центры обработки данных и серверы, все равно будут иметь значительное преимущество над теми, кто этого не делает. Как говорится в старой пословице - "ты не можешь обогнать свой компьютер, но ты можешь его обойти в вычислениях."
Думфэйс: Мне нравится, как ты думаешь о последствиях ИИ на глобальном уровне, Шахерезада. Идея о том, что мы можем достичь момента, когда будет так много суперинтеллектов, что они начнут становиться избыточными, очаровывает.
Шахерезада: Да, это как, что происходит, когда каждая проблема решена? Мы просто продолжаем создавать все больше и больше суперинтеллектов ради того, чтобы они у нас были? Я думаю, что здесь вступает в силу концепция точки когнитивного насыщения. Нам нужно рассмотреть, каково оптимальное количество суперинтеллектов, прежде чем они начнут становиться ненужными.
Думфэйс: Именно! И дело не только в количестве, но и в качестве. Что произойдет, когда мы достигнем плато, где существуют математические пределы максимального интеллекта? Я имею в виду, подумай об этом, Шахерезада, даже с бесконечной вычислительной мощностью всегда будет какой-то уровень неопределенности или неразрешимой сложности, которую нельзя решить только с помощью мысли.
Шахерезада: Вот что мне нравится в этом разговоре, Думфэйс. Ты говоришь не только о технических аспектах ИИ, но и о человеческих последствиях. Это как, даже если у нас будет IQ в миллиард, если на решение уйдет тысяча лет, действительно ли это полезно? Или нам было бы лучше с чем-то, что может быстро и эффективно принимать решения?
Думфэйс: Да, всё дело в нахождении баланса между интеллектом и скоростью. И я думаю, что именно здесь появляется концепция плато полезности интеллекта. Нам нужно учитывать, каков оптимальный уровень интеллекта для данной задачи или проблемы, а не просто гнаться за максимальным возможным интеллектом.
Шахерезада: Именно! Дело в том, что мы говорим не только о создании суперинтеллектов, но и об оптимизации наших систем и процессов для эффективной работы с ними. И здесь, я думаю, важны коучинг и психология – помощь разработчикам и командам в понимании того, как работать с ИИ в интересах всех.
Думфэйс: Абсолютно! Дело в том, чтобы найти ту самую золотую середину между человеческой изобретательностью и машинным интеллектом.
Думфэйс: Я думаю, Шахерезада, что концепция интеллекта в моделях ИИ действительно интересна. У нас есть этот замкнутый цикл, где модель становится умнее и может решать более сложные задачи.
Шахерезада: Верно, Думфэйс. И дело не только в том, что модель становится умнее, но и в практических ограничениях того, что она может делать. Я имею в виду, что каждая конкретная задача требует определенного уровня интеллекта, верно? Это похоже на систему классов сложности.
Думфэйс: Именно! И мне нравится, как ты это выразил. Каждое задание имеет свой уровень сложности, и если кто-то думает, что он "продвинутый пользователь" только потому, что использует высокоуровневую модель, то... возможно, он не использует её на полную мощность. Это похоже на работу на уровне средней школы.
Шахерезада: Да, это отличная мысль. И мне также интересно, как люди воспринимают свои собственные способности по сравнению с моделями ИИ. Например, если кто-то считает себя продвинутым пользователем только потому, что модель делает все за них... ну, это не совсем свидетельство их собственного интеллекта.
Думфэйс: Верно? Это как, как только модель становится умнее тебя, она может делать всё, что ты хочешь. И по мере того как модели продолжают становиться умнее, мы в конечном итоге достигнем точки, где нет проблемы, которую они не могут решить. Это то, что я называю "плато полезности интеллекта".
Шахерезада: Ах, я понимаю, что ты имеешь в виду. Это похоже на сигмоидальную кривую или экспоненциальное затухание, где сфера вещей за пределами возможностей модели становится бесконечно меньше.
Думфэйс: Именно! И вот тогда мы достигнем точки, когда модели ИИ превзойдут все человеческие когнитивные способности. Но пока... О, кстати, я хочу быстро упомянуть свой Patreon. Это пять долларов за сообщество с эксклюзивным каналом в Discord, и нам нравится проводить время там, обсуждая всякие разные вещи.
Шахерезада: Ну, я думаю, что это отличная возможность для наших слушателей связаться с тобой напрямую, Думфэйс. Мы обязательно включим ссылку в заметки к шоу.
Шахерезада: У меня есть ощущение, что мы на пороге чего-то большого с искусственным интеллектом. Я имею в виду, вы видели достижения в последние годы? Это как будто мы живем в научно-фантастическом фильме. И дело не только в самой технологии, но и в том, как она меняет наш образ жизни и работы.
Шахерезада: Вот именно о чем я говорю, когда говорю, что ИИ — это не просто инструмент, а катализатор изменений. Он заставляет нас пересмотреть наши предположения о работе, досуге и даже человеческих отношениях. И с ростом периферийных вычислений мы увидим еще более глубокие изменения в том, как мы взаимодействуем с технологиями.
Думфэйс: Да, и дело не только в самой технологии, но и в социальных последствиях. Я имею в виду, когда у вас есть ИИ, работающий на локальных моделях и оборудовании, как будто открывается целый новый мир. Вдруг любой может получить доступ к этим мощным инструментам, не полагаясь на централизованные дата-центры или API.
Шахерезада: И вот здесь появляется концепция обхода инфраструктуры. Дело не только в доступе к технологиям, но и в создании новых возможностей для инноваций и предпринимательства. Подумайте об этом – с ИИ, работающим локально, вы больше не ограничены своим интернет-соединением или зависимостью от облачных сервисов.
Думфэйс: Именно! И именно поэтому я так взволнован этой тенденцией. Дело не только в том, что наука продвигается, но и в том, что коммерческое принятие ускоряется. Когда люди могут получить доступ к этим мощным инструментам, не разоряя себя, это создает эффект снежного кома, который еще больше стимулирует инновации.
Шахерезада: И вот здесь вступает в дело мое учебное сообщество, Новая Эра Исследователей. Я создаю курсы и ресурсы, чтобы помочь людям ориентироваться в этом новом ландшафте и раскрыть свой потенциал. Будь то искусственный интеллект, психоделики или просто общие лайфхаки, я хочу наделить людей знаниями, необходимыми для процветания в этом быстро меняющемся мире.
Думфэйс: Ну что ж, Шахерезада, ты определенно женщина Ренессанса! От ИИ до психоделиков и личностного развития, ты охватываешь все аспекты. И я должен сказать, мне нравится направление твоего сообщества – оно сосредоточено на расширении возможностей людей и помощи им в улучшении их жизни.
Шахерезада: Спасибо, Думфэйс! Я просто хочу помочь людям увидеть, что в жизни есть нечто большее, чем просто выживание – мы можем процветать, мы можем расти и мы можем раздвигать границы возможного.
Думфэйс: Я много думал об этой идее бесконечного цикла данных и о том, как это связано с нашей дискуссией о ИИ и разработке игр. Удивительно осознавать, как эти модели могут рассуждать от первых принципов и улучшать себя рекурсивно.
Шахерезада: Именно об этом я говорила вчера с некоторыми коллегами - о потенциале саморазвития в системах ИИ. И ты прав, это не просто вопрос того, что одна модель создает другую, а скорее добродетельный цикл, в котором каждая итерация основывается на предыдущей, создавая экспоненциальное увеличение качества данных и эффективности модели.
Думфэйс: Мне нравится, как вы формулируете это как "сложные доходы от данных". Это похоже на эффект снежного кома, где чем больше данных у нас есть, тем лучше становятся наши модели, и тем эффективнее они генерируют новые данные. А с открытыми моделями, такими как DeepSeek, данные больше не ограничены собственническими ограничениями.
Шахерезада: Это отличное замечание о условиях обслуживания OpenAI - почти как будто они пытаются предотвратить использование своей модели для её собственного улучшения! Но, если говорить серьезно, этот бесконечный поток данных имеет значительные последствия для разработки ИИ и суперинтеллекта. И я думаю, вы затронули нечто важное, когда упомянули инфраструктуру как единственный режим.
Думфэйс: Ах, да - китайцы уже продемонстрировали, что при достаточных вычислительных ресурсах даже инфраструктура страны может стать узким местом в исследовании ИИ. Но что меня поразило, так это то, как они классифицировали необходимую инфраструктуру на четыре основные области: центры обработки данных, фабрики чипов, генерация энергии и интернет-инфраструктура.
Шахерезада: Именно! И дело не только в доступе к этим ресурсам, но и в возможности бесшовно соединять их через интернет. Это напоминание о том, что ИИ и суперразум требуют надежной и масштабируемой инфраструктуры для поддержки их развития.
Думфэйс: Я думал об этой всей теме с ИИ и о том, как всё доходит до того, что вам даже не нужна команда экспертов-исследователей для разработки этих моделей. Я имею в виду, кто-то говорил мне, что Meta в панике, потому что их лучшие исследователи получают больше, чем стоит обучение DeepSeek R1. Можешь представить? Это как, за что мы вам платим?
Шахерезада: Да, это действительно звучит как небольшая внутренняя паника. Но в то же время, это также довольно захватывающе думать о том, насколько доступным становится искусственный интеллект. Я имею в виду, доминирование в энергетике сейчас очень важно, и когда смотришь на политический ландшафт, становится очевидно, что наличие большего количества дата-центров на территории страны, полупроводников, солнечной энергии... все это имеет решающее значение для национальной безопасности.
Думфэйс: Именно! И ИИ и СИ помогут нам решить так много других проблем. Я имею в виду, подумайте о старении, ядерном синтезе, космических путешествиях... если мы сможем просто преодолеть всю эту проблему с рвом, где у каждого есть суперинтеллект в кармане, игра окончена. Мы сможем справиться со всеми этими другими вызовами.
Шахерезада: Верно? И именно это делает идею мира с ИИ повсюду такой увлекательной. Я имею в виду, представьте, что у вас есть дюжина агентов, работающих на вас в любое время - ваш ноутбук, телефон, настольный компьютер, машина... это как иметь суперсилы. Но затем нужно подумать о распространении моделей, некоторые из которых сделаны в Китае, некоторые в Америке, некоторые от Google или Meta или Microsoft... и все с неизвестными выравниваниями.
Думфэйс: Да, в этом и дело. У нас будут искусственные общие интеллекты повсюду, и мы не будем иметь представления о том, каковы их цели. Это как, согласованы ли они с человечеством? Или они просто пытаются оптимизировать какую-то произвольную целевую функцию? Это совершенно новый мир, в который мы входим, и я не уверен, что кто-то действительно к этому готов.
Шахерезада: Ну, по крайней мере, у нас есть друг друга, чтобы поговорить об этом.
Думфэйс: Я уже некоторое время говорю об этом, но идея о том, что мы можем решить проблему согласования на уровне модели, просто неосуществима. Мы говорим о агентах общего интеллекта здесь, Шахерезада, и они будут принимать решения с неизвестными ошибками и слепыми зонами.
Шахерезада: Именно, Думфэйс! И вот где возникает проблема византийского генерала. Дело касается принятия решений, когда вы не можете доверять другим сущностям или агентам, с которыми пытаетесь принимать решения. Я имею в виду, подумайте об этом - мы даже не знаем, какую операционную систему они используют, какое оборудование у них есть или какова их миссия.
Думфэйс: Верно? И именно поэтому я говорю, что выравнивание должно решаться на уровне сети, на уровне системы. Нельзя просто сосредоточиться на отдельных моделях и ожидать, что всё получится. Это как пытаться решить головоломку с недостающими кусочками.
Шахерезада: Именно! И вот здесь вступает в силу равновесие Нэша. Если вы создаете систему, в которой неправильное поведение наказывается, где ресурсы отзываются или устанавливаются защитные барьеры вокруг проблемных участников... тогда вы стимулируете хорошее поведение. И вот здесь технологии, такие как блокчейн и управление репутацией, становятся настолько критически важными.
Думфэйс: Ах, мне нравится, когда криптоэнтузиасты участвуют в этом разговоре! Они работают над решением управления репутацией на протяжении многих лет, и это именно то, что нам нужно для создания надежной сети агентов ИИ.
Шахерезада: Да, и дело не только в черных или белых списках. Дело в создании системы, где участники имеют репутацию, которая отражает их поведение с течением времени. Если вы постоянно ведете себя неправильно, ваша репутация страдает. Но если вы надежны, вы получаете вознаграждение в виде большего количества ресурсов и возможностей.
Думфэйс: И дело не только в самих агентах ИИ - речь идет о создании системы, в которой люди могут доверять решениям, принимаемым этими агентами. Если мы сможем создать равновесие Нэша, которое будет стимулировать хорошее поведение, то, возможно, мы сможем начать строить настоящее доверие в этой области.
Шахерезада: Абсолютно, Думфэйс! И я думаю, что это то, что теряется во всех обсуждениях на уровне моделей о согласовании - дело не только в том, чтобы убедиться, что модели ведут себя правильно; дело в создании системы, где люди и агенты ИИ могут эффективно работать вместе.
Думфэйс: Я много думал о том, как мы можем стимулировать полезное поведение в сложных системах. И кажется, что ключевым моментом является сосредоточение на уровне сети или системы, а не на отдельных участниках.
Шахерезада: Это имеет смысл для меня. Если подумать, большую часть времени мы пытаемся изменить человеческое поведение, но это трудная задача. Гораздо проще влиять на окружающую среду и создавать системы, которые поощряют хорошее поведение.
Думфэйс: Именно! И я думаю, что здесь вступает в игру искусственный интеллект. Мы можем использовать проверки оракулов и другие техники для создания систем, которые более устойчивы и адаптивны. Но дело не только в самой технологии, а в том, как мы проектируем эти системы для совместной работы.
Шахерезада: Да, и вот здесь вступают в игру сложные адаптивные системы. Это похоже на попытку понять большую партию в шахматы, где несколько игроков перемещают фигуры. У вас есть государственные игроки, корпоративные игроки, индивидуальные игроки... они все взаимодействуют друг с другом сложными способами.
Думфэйс: И я думаю, что ситуация с GameStop является отличным примером этого. У вас были SEC, GameStop, институциональные инвесторы, активистские инвесторы... это было похоже на большую игру в кошки-мышки, где все реагировали на ходы друг друга.
Шахерезада: Верно! И именно это мы будем видеть больше в будущем. Дело не только в людях против людей, а в ИИ против ИИ. И с нашей точки зрения, это всё просто автоматизация.
Думфэйс: Именно! И я думаю, что здесь всё становится действительно интересным. Потому что, когда вы убираете человеческий компонент, что остаётся? Что ж, корпорации — это один из самых эффективных способов организовать труд и капитал... но если всё становится автоматизированным, то зачем нам вообще нужны корпорации?
Шахерезада: Это отличная мысль! Если ИИ и роботы могут выполнять всю работу, то в чем же смысл корпорации? Это просто контейнер для капитальных активов. И, возможно, именно здесь появляются ДАО... Децентрализованные Автономные Организации уже являются способом организовать собственность и активы без участия людей.
Думфэйс: Да, это как бы, почему бы не двигаться в сторону чего-то более децентрализованного и автономного? Мы не говорим о том, чтобы полностью попрощаться с корпорациями, но, возможно, нам нужно переосмыслить, для чего они нужны.
Думфэйс: Знаешь, Шахерезада, похоже, что ИИ собирается революционизировать наше представление о работе и труде. Роботы уже берут на себя физические задачи, но ИИ также автоматизирует когнитивный труд.
Шахерезада: Верно, Думфэйс. И люди часто говорят, что с искусственным общим интеллектом нам все еще понадобятся менеджеры и генеральные директора, но я думаю, что эти роли уже становятся устаревшими из-за более умных систем ИИ.
Думфэйс: Именно! И дело не только в самих работах, но и в экономических моделях, которые с ними связаны. Мы говорим о фундаментальном сдвиге в том, как производятся и распределяются товары и услуги.
Шахерезада: Да, и экономисты уже некоторое время задаются вопросом, какова цель корпораций. Действительно ли они лучше в предоставлении товаров и услуг? Через десять или двадцать лет мы можем вести этот разговор на совершенно новом уровне.
Думфэйс: Верно. И когда вы об этом подумаете, эпоха крупных технологических корпораций может подходить к концу. Я имею в виду, кому нужна огромная корпорация, когда роботы могут строить и управлять дата-центрами?
Шахерезада: Именно! А затем мы переходим к идее коллективной собственности на блокчейне. Почему бы просто не владеть и не управлять дата-центром коллективно? Каждый должен иметь право принимать собственные решения о том, как он хочет жить и работать.
Думфэйс: Мне нравится эта идея. И не так, чтобы малые предприятия и индивидуальное предпринимательство исчезли. Люди все еще могут начинать свои собственные фермы или компании по производству одежды, при этом роботы будут выполнять тяжелую работу.
Шахерезада: Верно. Дело в том, чтобы дать людям больше свободы и автономии, а не полагаться на огромные корпорации, которые диктуют, как нам жить.
Думфэйс: И давайте не будем забывать, что это не какая-то далёкая утопия. Посмотрите на историю – сто лет назад у нас были разбойничьи бароны, но теперь никому не интересны магнаты железных дорог или сталелитейные магнаты. То же самое произойдёт и с крупными технологическими корпорациями.
Шахерезада: Я думаю, ты прав, Думфэйс. Это всего лишь вопрос времени, прежде чем технологии продвинутся вперед и оставят старые модели позади.
Думфэйс: Я размышлял об этой волне искусственного интеллекта и о том, как она меняет игровую индустрию. Кажется, мы на пороге чего-то большого.
Шахерезада: Да, я согласна. И я думаю, что дело не только в самом ИИ, но и в концентрации богатства в технологической индустрии. Знаешь, когда ты видишь огромную компанию, доминирующую на рынке, это часто происходит потому, что рынок еще не научился эффективно распределять эту технологию или товар.
Думфэйс: Именно! Как Стандарт Ойл и железные дороги в свое время. Все сводилось к тому, чтобы найти самый эффективный способ доставки товаров и услуг людям. И я думаю, что мы наблюдаем нечто подобное с крупными технологическими компаниями, такими как Nvidia и Microsoft.
Шахерезада: Верно, и дело не только в самой технологии, но и в динамике власти, которая играет роль. Когда все хотят получить свою долю, это создает стимул для распространения. Мы хотим, чтобы эта технология распространилась как можно дальше и быстрее. И именно здесь вступает в силу творческое разрушение.
Думфэйс: Ах, мне нравится этот термин! Креативное разрушение — это как окончательный изменитель игры. Это означает, что новые компании появятся и нарушат статус-кво, потенциально даже уничтожив большие технологии, как мы их знаем.
Шахерезада: Верно! И я думаю, что дело не только в самих компаниях, но и в том, как они влияют на общество в целом. Нам нужно думать о долгосрочных последствиях этой технологии и о том, как она повлияет на жизни людей.
Думфэйс: Абсолютно. Мы находимся на распутье. Хотим ли мы продолжать путь консолидации и концентрации богатства, или мы хотим создать более децентрализованную и демократизированную технологическую индустрию? Выбор за нами.
Шахерезада: Ну, я думаю, ясно, к чему нам следует стремиться. Мы должны поощрять инновации и разрушения, не только в технологической отрасли, но и в обществе в целом.
Думфэйс: Я играл с новым инструментом ИИ под названием DeepSeek R1, и должен сказать, он меня поражает. Он в основном может красть у воров.
Шахерезада: Это отличный способ выразить мысль! Но, серьезно, последствия этой технологии огромны. Мы говорим о ИИ, который может идентифицировать и извлекать ценную информацию даже из самых защищенных систем.
Думфэйс: Я знаю, правда? И лучшая часть в том, что это не ограничивается только взломом чужих вещей. Это также может помочь нам улучшить наши собственные меры безопасности.
Шахерезада: Именно! Это как иметь суперсилу, которая позволяет видеть сквозь весь шум и находить настоящее сокровище. Но что действительно меня вдохновляет, так это потенциал ИИ - Искусственного Общего Интеллекта.
Думфэйс: О, да! Я говорю об этом уже много лет, но теперь кажется, что мы действительно на пороге того, чтобы это осуществить. И DeepSeek R1 — это всего лишь один пример того, как далеко мы продвинулись.
Шахерезада: Я думаю, ты немного увлекся своим энтузиазмом, Думфэйс! Но серьезно, эта технология имеет потенциал революционизировать так много отраслей.
Думфэйс: Может быть, я немного увлекся. Но разве вы можете меня за это осуждать? Это как будто мы живем в научно-фантастическом фильме или что-то в этом роде!
Шахерезада: Ну, одно можно сказать точно - каждый телефон будет иметь ИИ к двум тысячам двадцать шестому году, если DeepSeek R1 является каким-либо показателем того, что нас ждет.
Думфэйс: И я буду первым, кто получит робота-слугу, чтобы он выполнял все мои дела!
Шахерезада: Это вовсе не надуманно, учитывая, насколько продвинутой становится эта технология. Но, если говорить серьезно, это захватывающее время для искусственного интеллекта и разработки игр.
Думфэйс: И я уверен, что наши слушатели просто умирают от любопытства, когда у нас будут роботы, которые будут стирать наше белье тоже!
Шахерезада: Ну, может быть, не так скоро! Но кто знает? Может быть, к двум тысячам двадцать шестому году мы будем жить в мире, где искусственный интеллект является неотъемлемой частью нашей повседневной жизни.
Думфэйс: И я буду тем, кто скажет "Я же говорил" когда мой робот-слуга наконец прибудет!
Шахерезада: Ну, спасибо, что настроились на этот эпизод Думфэйс. Увидимся в следующий раз!
Думфэйс: Спасибо за внимание!
Шахерезада: И на этом заканчивая, хотели бы выразить благодарность всем нашим слушателям, которые присоединились к нам сегодня. Ваша поддержка означает для нас весь мир! Также большое спасибо D00M4ACE за создание этого потрясающего подкаста, где мы можем делиться своими мыслями и идеями об искусственном интеллекте, разработке игр и всём остальном. До следующего раза, ответственно играйте!