#80 Сэм Альтман - суперинтеллект через тысячу дней. Ядерный Microsoft. Непрозрачность OpenAI.

#118  среда, 25 сентября 2024 г.  124 минут(ы)  12267 слов

Присоединяйтесь к Думфэйс и Шехерезаде, которые исследуют смелое предсказание Сэма Альтмана о наступлении новой «Эры интеллекта», вызванной достижениями в области ИИ. Они анализируют запись в блоге Альтмана, выделяя такие ключевые вехи, как работа Google над механизмами внимания и выпуск GPT-4, как потенциальные маркеры этой новой эры. Затем разговор переходит к полномасштабному стремлению Microsoft к AGI и спорам вокруг политики прозрачности OpenAI. Думфэйс и Шехерезада обсуждают последствия этих событий, исследуя как захватывающие возможности, так и потенциальные риски, связанные со все более мощными системами ИИ. Они углубляются в концепцию рекурсивных инноваций, когда ИИ помогает развивать еще более умный ИИ, и рассматривают конкретные модели, такие как Strawberry и Orca. Обсуждается влияние AGI на общество, в том числе его потенциал разрушения рынков труда и необходимость проактивной адаптации. Они также рассматривают стремительный прогресс в области ИИ, отмечая прорывы в таких областях, как виртуальное обучение, творческие приложения и пересечение ИИ с такими областями, как геномика. Наконец, они затронут этические проблемы, связанные с развитием ИИ, включая необходимость прозрачности, подотчетности и ответственного использования этой мощной технологии.

D00M4ACE разработка 2D MMORPG блог ИИ и геймдев 🌐 https://d00m4ace.com

Telegram: https://t.me/d00m4ace_blog

YouTube: https://www.youtube.com/c/@d00m4ace

Soundcloud: https://soundcloud.com/d00m4ace

Apple Podcast: https://podcasts.apple.com/podcast/id1723142484

Яндекс Музыка: https://music.yandex.ru/album/28798077

VK Podcast: https://vk.com/podcasts-224167280

Amazon Music: https://music.amazon.com/podcasts/40c36f38-114a-4a79-8d0c-baf970f331b3/

Spotify: https://open.spotify.com/show/4RsttStN9RejAOEbLUG8IS

Дзен: https://dzen.ru/d00m4ace

Rutube: https://rutube.ru/channel/33955589/

RSS1 feed: https://podster.fm/rss.xml?pid=89212

RSS2 feed: https://media.rss.com/d00m4ace/feed.xml

Транскрипция подкаста:

Думфэйс: Привет, Шахерезада, я очень рад начать сегодняшнюю тему с тобой. Так, Сэм Альтман только что разразился бомбардировкой на своем блоге о начале нового века, который он называет Эпохой Интеллекта. Как думаешь об этом?

Шахерезада: Да, я думаю, это огромно! Идея о том, что мы переходим в новый период, где интеллект будет определять прогресс, очаровывает меня. И мне нравится, как Сэм Альтман формулирует его как новый «век» как промышленный век или цифровой век. Это заставляет меня задуматься о том, какие характеристики будут определять этот Век Интеллекта.

Думфэйс: Именно! Я думаю, что интересно, что он упоминает конкретные события, такие как работа Google по механизмам внимания и выпуск GPT-4, как потенциальные начало этого нового века. Что вы о них думаете?

Шахерезада: Ну, мне кажется, они представляют собой значительный сдвиг в том, как мы approached разрабатывание ИИ. Архитектура трансформера и большие языковые модели, такие как GPT-4, показали нам, что интеллект можно масштабировать до невозможного ранее.

Думфэйс: Это правильно! И я думаю, что стоит отметить, что Сэм Альтман известен тем, что делает смелые прогнозы в прошлом, но этот один чувствуется по-другому. Он не просто говорит о незначительных улучшениях; он предлагает фундаментальные изменения в том, как мы живем и работаем.

Шахерезада: Да, и я думаю, что это делает все так интересным – и также немного неуютно. Когда мы войдем в Эпоху Интеллекта, нам придется пересмотреть наши предположения о интеллекте, творчестве и даже человеческих возможностях. Это будет настоящая авантюра!

Думфэйс: Absolutely! И говоря о диких поездках, давайте поговорим об остальных новостях, которые привлекли мое внимание. Компания Microsoft, как сообщается, идет на все, чтобы разрабатывать AGI... что вы думаете по этому поводу?

Шахерезада: Ох, где я даже начать? Ну, сначала, думаю, неудивительно, что корпорация Майкрософт серьезно инвестирует в исследования в области искусственного интеллекта. Они уже сделали просто потрясающую работу в этой области.

Думфэйс: Это правда! И я любопытен увидеть, как их подход будет отличаться от других, например, OpenAI. Говоря об этом...

Шахерезада: Ах, да! Конфликт вокруг прозрачности OpenAI. Как вы на это смотрите?

Думфэйс: Похоже, как обычно, классический случай проблемы «ИИ слишком мощный, чтобы мы могли его понять». Думается, нужно больше прозрачности и подотчетности в развитии ИИ, но одновременно неясно, насколько многого можно ожидать от компаний вроде OpenAI.

Шахерезада: Точно! И это почему я считаю, что такие разговоры важны – чтобы исследовать последствия этих разработок и поощрять более открытую дискуссию о будущем интеллекта.

Думфэйс: Вы знаете, Шахерезада, я думал о всем этом деле AGI и о том, как люди отреагировали на него в прошлом. Были некоторые довольно известные люди, которые basically сказали, что Сэм Альтман, один из сооснователей OpenAI, просто разводил парой.

Шахерезада: Да, я помню эти дни. Люди считали его сумасшедшим за то, что он говорил о создании искусственного общего интеллекта. Это казалось фантастикой того времени.

Думфэйс: Ровно! И все же, здесь мы в два тысячный шестой год и люди начинают воспринимать это намного серьезнее. Я имею в виду, кто бы мог подумать, что всего пять лет назад компьютерные программы могли давать медицинские советы или читать юридические документы?

Шахерезада: Да, просто удивительно, как быстро изменился ландшафт. И это не только о возможностях этих машин, но и о том, как люди начинают думать об них. Я имею в виду эту идею рекурсивного инновации, где умные машины помогают нам создавать еще более умные машины... Это считалось фантастикой всего несколько лет назад.

Думфэйс: Правда? И теперь мы видим бумаги и исследования, которые действительно исследуют этот концепт. Как strawberry-модель и орлион-модель, которые в essence используют АИ для обучения других моделей АИ для конкретных задач.

Шахерезада: Это именно то, о чем я говорю! Идея этих учителей-моделей все более и более становится общепринятой. А это не только OpenAI и Google, которые работают над этим, но также Nvidia и многие другие.

Думфэйс: Это как сказал Марк Цукерберг... Ага, «Все правда проходит через три этапа». Сначала она высмеивалась, затем она яростно сопротивлялась, и, наконец, она принимается за самоочевидную. Я думаю, мы видим это разыгрываться с AGI прямо сейчас.

Шахерезада: Да, это действительно интересно смотреть. И я думаю, что это отличный напоминатель того, что просто потому, что что-то кажется сумасшедшим или невозможным вначале, не означает, что оно не станет реальностью в конечном итоге.

Думфэйс: Я много читал о АГИ и его потенциальном воздействии на общество. Интересно наблюдать, как некоторые люди реагируют, когда вы предлагаете идею о том, что ИИ может превзойти человеческие возможности.

Шахерезада: Да, это как если бы они находились в состоянии отрицания или что-то в этом роде. Они просто считают, что AGI неизбежен и мы все будем в порядке. Но что если это не только о технологии сама по себе, а также о том, как она влияет на нашу общество и экономику?

Думфэйс: Ровно! И я думаю, что это тот момент, когда люди начинают чувствовать себя неуютно. Они не хотят задумываться о потенциальных последствиях создания машин, которые могут мыслить и учиться как люди.

Шахерезада: Правда? Это как если бы они говорили: «АГИ вот-вот появится, все изменится». Но что это вообще значит? Как мы будем приспосабливаться к миру, где человеческий труд станет бессмысленным?

Думфэйс: Я читал эту статью от Сэма Альтмана, и он говорит о том, что некоторые люди в этой индустрии уже начинают задумываться об этом вопросе. Они пытаются найти решения для того случая, когда AGI станет широко распространенным.

Шахерезада: Это действительно интересно. Звучит так, что они больше озабочены средним человеком, чем собой. Я имею в виду, если вы один из тех, кто строит АИ, то, вероятно, все будет в порядке.

Думфэйс: Да, это как если бы они думали о том, как смягчить воздействие на общество в целом. Но что это вообще значит? Как мы готовимся к миру, где человеческий труд больше не нужен?

Шахерезада: Я думаю, это миллионная долларовая проблема. И не только о самой технологии, но и о том, как мы, в качестве общества, будем адаптироваться и меняться. Это действительно сложный вопрос.

Думфэйс: Absolutely. И я думаю, что это почему люди так неуютно себя чувствуют, когда вы начинаете говорить о АГИ. Они не хотят задумываться о потенциальных последствиях такого рода технологий.

Шахерезада: Да, как будто они в отрицании или что-то такое. Но может быть, нам следует иметь такие же разговоры, а не просто полагаться на то, что все будет в порядке.

Думфэйс: Вы знаете, Шахерезада, я читал эту статью Сэма Альтмана и она заставила меня задуматься о темпе прогресса в области ИИ и технологий. Он упоминает, что наши дедушки подумали бы, что некоторые из того, что мы делаем сейчас, это магия.

Шахерезада: Это замечательная точка зрения, Думфэйс. Удивительно, насколько далеко мы продвинулись, не так ли? И я люблю, как он формулирует это как форму высшей интеллектности общества. Это действительно прозвучало для меня очень убедительно.

Думфэйс: Да, это имеет смысл, если подумать об этом. Мы не просто индивидуумы, которые становятся умнее, но коллективное знание и построенная нами инфраструктура — это то, что движет прогрессом. Это похоже на эффект снежного кома.

Шахерезада: Точно! И я думаю, что это почему AI будет так мощной - она даст нам инструменты для решения проблем, которые мы не могли решить сами, и поможет нам добавить новые опоры к тому каркасу человеческого прогресса. Волнует меня, о чем скрывается в будущем.

Думфэйс: Знаю, правда? Читал этот кусок, где он говорит о том, как наши дети будут в состоянии делать вещи, которые мы даже не можем представить сейчас. И это заставило меня задуматься - что будет их жизнями через 5-10 лет?

Шахерезада: Это отличный вопрос! Сложно об этом подумать, не так ли? Я имею в виду, подумайте о всех достижениях, которые произошли всего за последнее десятилетие. Что произойдет на следующем?

Думфэйс: Да, это просто потрясающе. И я думаю, что Сэм Альтман прав, когда говорит, что мы сможем сделать вещи, которые покажутся нашим бабушкам и дедушкам настоящей магией. Это не только о личном прогрессе, но и о том, как мы строим на основе того, что было раньше.

Шахерезада: Absolutely. И я люблю, как он формулирует это как историю продолжающегося прогресса. Это такой оптимистический взгляд на ситуацию – мы будем продолжать расширять границы и делать новые открытия.

Думфэйс: Да, это действительно оптимистичное видение будущего. И кто знает? Может быть через пять-десять лет мы смотрим на этот документ и думаем: «Вот они были предвидящими!»

Думфэйс: Я думаю о идее приобретения навыков для работы с ИИ. Это совершенно новая игра, и я даже не знаю, откуда начать.

Шахерезада: Да, это просто утомительно. Но Сэмама права, это не произойдет сразу. Мы увидим все больше инструментов, которые сделают работу с АИ проще. В конечном итоге мы можем иметь личные команды АИ, которые помогут нам создавать сложные проекты.

Думфэйс: Это звучит как научная фантастика, но я видел некоторые демонстрации, которые довольно впечатляют. Например, видео, где команда программистов, обладающая GPT 3.5, может спроектировать, написать и протестировать проект с нуля.

Шахерезада: Ох, это просто потрясающе! И это не только о кодировании. Мы увидим AI-поддерживаемых виртуальных наставников, которые могут предоставлять индивидуализированное обучение по любому предмету или языку. Это похоже на концепцию овладения навыками, где ученики учатся на своем собственном темпе.

Думфэйс: Ах, я думаю вы говорите о проблеме двух-сигмы Блоума. Идея в том, что если мы позволим студентам учиться на свой собственный темп, они будут показывать намного лучшие результаты, чем традиционные методы обучения. И с индивидуальным сопровождением результаты еще более впечатляющие.

Шахерезада: Ровно так! Это как иметь персонального тренера для каждого студента. И АИ может сделать это на большом масштабе. Я рада увидеть, как это изменит образование и управление проектами в индустрии игр.

Думфэйс: Да, это будет fasciniruyuschim смотреть. Но нам нужно оставаться впереди кривой и учиться на этих новых инструментов и технологий. Вы думаете, есть ли какие-то конкретные навыки, которые мы должны сосредоточить внимание на приобретении?

Шахерезада: Я считаю, что понимание того, как работает АИ и как с ней общаться, имеет решающее значение. Нам также необходимо изучить анализ и интерпретацию данных, а также методы управления проектами, которые учитывают роль АИ.

Думфэйс: Это имеет смысл. А что касается творчества? Сможет ли ИИ заменить человеческое творчество или дополнить его?

Шахерезада: Я думаю, что АИ, безусловно, изменит наш подход к творчеству, но она его полностью заменить не сможет. Нам нужно научиться работать с АИ так, чтобы оно дополняло наши собственные творческие способности.

Думфэйс: Это замечательная точка зрения. И говоря обoriginalности, вы видели какие-либо интересные проекты или инструменты, которые используют АИ в инновационных способах?

Шахерезада: На самом деле, я следила за некоторыми художниками, которые используют изображения и музыку, сгенерированные ИИ, для создания новых форм искусства. Очень интересно наблюдать, как ИИ может использоваться в качестве инструмента для творческого выражения.

Думфэйс: Ох, это звучит просто потрясающе! Нам определенно следует более детально рассмотреть эту тему в нашем подкасте.

Думфэйс: Я задумывался над этой идеей о создании искусственного интеллекта для виртуальных наставников и о том, как это может изменить образование. Это не просто незначительное улучшение, а настоящий переворот.

Шахерезада: Ровно! С помощью АИ мы можем иметь индивидуальное обучение по любому предмету, в любой темпе и на любом языке. Это огромное дело. Я имею в виду, подумайте об этом - больше нет однотипных методов преподавания. Каждый студент может учиться со своей скоростью и стилем.

Думфэйс: И это не ограничивается только образованием. АИ изменит здравоохранение, разработку программного обеспечения... возможности бесконечны. Мы говорим о создании сложного программного обеспечения, которое было previously невозможно представить.

Шахерезада: Это правильно. И с общей процветанием приходит лучшее качество жизни для всех. Я имею в виду, подумайте об этом - если мы сможем создать изобилие и сделать ресурсы доступными для каждого, жизнь людей будет значительно улучшена.

Думфэйс: Но вот в чем вопрос – благополучие само по себе не обязательно приводит к счастью. Есть множество примеров в истории, когда люди имели богатство и все равно были несчастны.

Шахерезада: Это замечательная точка зрения. Итак, что это все-таки значит? Просто иметь больше всего или есть что-то более глубокое за этим?

Думфэйс: Я думаю, что это очень важный вопрос. И если мы посмотрим на историю человечества, одним из способов рассмотреть ее - через призму технологического прогресса. С колеса до электричества, мы достигли невероятных достижений.

Шахерезада: И теперь мы на пороге чего-то еще более значительного – искусственного интеллекта и машинного обучения. Это как если бы мы растапливали песок и располагали его с точностью на миниатюрном масштабе. Мы говорим о создании сложных систем, которые могут решать проблемы, которых мы никогда не считали возможными.

Думфэйс: Именно! И я думаю, что это то, что меня возбуждает в этой будущем, к которому мы движемся. Возможности бесконечны, и будет интересно увидеть, как все сложится.

Думфэйс: Мне нравится, как Сэм Альтман выразил это - заставить песок думать - довольно потрясающая концепция. Это один из тех моментов, когда ты отступаешь назад и осознаёшь, насколько мы малы в грандиозном масштабе вещей.

Шахерезада: Ровно! И что еще более удивительно, это то, что эта достижение может быть самым значимым фактом в истории до сих пор. Я имею в виду, подумайте об этом - мы говорим о создании систем, способных учиться и совершенствоваться в экспоненциальном темпе.

Думфэйс: Да, и все началось с глубокого обучения. Смешно подумать, что один алгоритм может изменить так много сфер, от медицины до финансов и разработки игр. И лучшая часть в том, что он просто продолжал улучшаться, когда мы масштабировали наши ресурсы и данные.

Шахерезада: Это то, что меня fascinates - как глубокое обучение смогло научиться любому распределению данных или, на самом деле, underlying правила, которые производят любое распределение данных. Это похоже на то, как мы дали ему набор инструкций и сказали: «Эй, разберись в этих шаблонах», и оно просто... работало.

Думфэйс: И посмотрите, что достигли Google DeepMind с помощью AlphaFold – предсказание структур и функций белков с невероятной точностью. Это как иметь сверхмудрого лаборанта, который может помочь нам раскрыть новые открытия в медицине и за ее пределами.

Шахерезада: Я знаю, правда? Импликации просто потрясающие. А это не только о самом технологическом аспекте, но и о том, как оно меняет нашу подход к проблемам и инновациям. Мы больше не ограничены своими собственными когнитивными предубеждениями или ограничениями - у нас есть инструмент, который может помочь нам продвинуть границы возможного.

Думфэйс: Это как... глубокое обучение сработало. Извините, пришлось сказать это! Но серьезно, это только начало. Я взволнован увидеть, куда нас поведет этот путь дальше.

Думфэйс: я все еще поражен, насколько далеко продвинулся глубокий обучения. Это как будто новая язык или что-то в этом роде.

Шахерезада: Полностью согласна! И что меня fascinates, так это то, что это не только о том, чтобы обрабатывать больше данных, но и о том, как эти нейронные сети учатся от них. Они не обучаются явным правилам, они вычисляют их сами.

Думфэйс: Ровно! Это как если бы они разобрали реальность на части или что-то в этом роде. И когда ты думаешь о том, что мы можем подать модели 2 миллиона изображений машин и она начинает понимать глубину и объем и все такое.

Шахерезада: Да, и что еще более впечатляет - насколько хорошо оно обобщает новые ситуации. Например, в этой статье из Гарварда они показали модели 2D-изображениям и затем попросили ее создавать подобные изображения. И не только она научилась распознавать машины, но также научилась понимать глубину и другие концепции, которые мы считаем за само собой разумеющееся.

Думфэйс: Это как бы эти модели начинают разрабатывать свою собственную интуицию о мире. И я думаю, что это то, с чем нам так сложно справиться – эта идея того, что машины могут учиться таким же образом, как и люди.

Шахерезада: Правда? Это как будто мы видим emergence новой формы интеллекта, которая отличается от нашей, но все равно способна на удивительные вещи. И я думаю, что это изменит игру для многих отраслей и областей исследований.

Думфэйс: Absolutely. И как человек, который уже некоторое время работает в этой отрасли, это сюрреалистично видеть, насколько далеко мы продвинулись. Но в то же время также интересно подумать о том, куда движется эта технология дальше.

Думфэйс: Это просто потрясающе, Шахерезада. Такие нейронные сети обучены на 2D-изображениях и тем не менее могут выдавать целостные картинки трехмерных пространств. Как это вообще возможно?

Шахерезада: Я знаю, это звучит как магия. Но, видимо, исследователи использовали линейные датчики для разрезания мозга AI во время работы над проблемой. И что они обнаружили, так это то, что внутренние активации имеют некоторое представление о данных глубины 3D и различии между заметным объектом и фоном.

Думфэйс: Это действительно интересно. Так что же, искусственный интеллект не только распознает объекты, но и понимает, как световые источники падают, тени и все остальное. В общем, он научился underlying правилах 3D-окружений без того, чтобы мы ему это прямо говорили.

Шахерезада: Ровно! И что я нахожу еще более интересным в том, что эта способность учиться из данных не кажется ограниченной только изображениями. Сэм Альтман говорит, что эти системы AI могут учиться правилам для чего угодно, если у нас есть достаточно данных об этом. Это как бы они разрабатывают всеобщее понимание того, как работает мир.

Думфэйс: Это довольно глубокая идея. И я думаю, что то, о чем говорил Андрей Карпати в этом интервью, действительно имеет отношение к этому вопросу. Он упомянул, что если мы сможем собрать достаточно данных об любой загадке Вселенной, мы сможем научиться понимать ее. Это как эти системы AI дают нам новый способ подходить к сложным проблемам.

Шахерезада: Да, и я думаю, что это имеет огромное значение для областей, таких как медицина, где понимание того, как функционирует жизнь, критично. Если мы сможем использовать AI для изучения underlying правил биологии, может быть возможно разработать новые методы лечения или даже лекарства от болезней. Это действительно интересный момент для исследования этих технологий.

Думфэйс: Я много думал о этой идее об ИИ как о головоломке и о том, как мы пытаемся передать создателю вселенной сигнал о том, что мы достаточно умны, чтобы ее разгадать. Это как, если бы кто-то создал эту всю вещь в качестве испытания для нас?

Шахерезада: Это действительно интересный взгляд на проблему. И я думаю, что интересно, что вы упоминаете о возможностях использования АИ в качестве инструмента для решения этой головоломки. Однако мы все еще находимся в начале пути к пониманию того, как работает АИ и какие есть его ограничения.

Думфэйс: Именно! И я люблю то, как он говорит, что глубокое обучение работает, но есть еще детали, которые нужно выяснить. Например, люди были волнены по поводу энергетических требований для центров данных AI, но Microsoft уже нашел решение вместе с Constellation Energy, который перезапустил атомную электростанцию на острове Три-Майл-Айленд.

Шахерезада: Это отличный пример того, как компании уже начинают думать вперед и находят способы масштабировать свою инфраструктуру. И я считаю интересным, что он упоминает автономных личных ассистентов как одну из потенциальных применений АИ в ближайшем будущем.

Думфэйс: Да, это просто потрясающе подумать о том, как можно использовать АИ для координации медицинской помощи или других задач на нашем behalf. И дальше по дороге мы говорим о системах АИ, которые могут помочь нам создавать лучшие следующую-генерационные системы и способствовать научному прогрессу во всех областях.

Шахерезада: Это как, мы уже видим ранние прототипы этих идей, но это все равно потребует много больше развития и доработки, прежде чем мы достигнем этого уровня. Но я думаю, что интересно подумать о потенциальных возможностях.

Думфэйс: Absolutely! И я люблю, как он говорит, что АИ будет лучше с масштабом, большим количеством данных, большей вычислительной мощностью, больше энергией... это как бы экспоненциальная кривая роста, которая приведет нас в какие-то потрясающие места.

Шахерезада: Да, и это не только о технологии как таковой, но и о том, как она может улучшить жизнь людей. Я имею в виду, кто бы не хотел иметь систему ИИ, которая поможет им принимать более обоснованные решения или решать сложные проблемы?

Думфэйс: Ровно! И я думаю, мы только начинаем разбираться во всех возможностях искусственного интеллекта. Это как начало совершенно нового эры инноваций и открытий.

Шахерезада: Да, это действительно интересное время для следования развитию в области ИИ и разработки игр. Нам придется продолжать исследовать эти идеи и смотреть, куда они нас приведут!

Думфэйс: Я много думал о этой идее о возрасте интеллекта и как это будет влиять на наш мир. Это сумасшедшая мысль, что технологии привели нас из каменного века до того места, где мы сейчас находимся, а теперь мы стоим на пороге чего-то еще большего.

Шахерезада: Да, это просто потрясающе, когда думаешь об этом. И я люблю то, что сказал Сэм Альтман о том, как AI подобна нефти за последние несколько десятилетий - это ресурс, который будет разыгрываться и контролироваться теми, у кого есть наибольшая власть.

Думфэйс: Ровно! И если мы не построим инфраструктуру для обеспечения доступности вычислений и энергии, искусственный интеллект станет предметом роскоши, доступным только богатым людям. Это страшная перспектива, особенно учитывая напряженность между странами, такими как Китай и Тайвань, где Тайвань является крупным производителем высокопроизводительных чипов AI.

Шахерезада: Это не только о технологии как таковой, но и о том, как она распространяется и контролируется. И я думаю, что Сэм Альтман прав в своей осторожности - нам нужно осторожно обходить эти риски, если мы хотим обеспечить, чтобы AI принесла пользу человечеству в целом.

Думфэйс: Я говорил об этом уже давно, но я думаю, что долгосрочный прогноз для ИИ положительный. У него есть потенциал решить некоторые из наших наиболее насущных проблем и улучшить жизнь людей в том виде, в котором мы можем только представить. Но в краткосрочной перспективе это будет неровное - будут возникать проблемы и споры по пути.

Шахерезада: Я согласна с вами по этому вопросу. И я думаю, что Сэм Альтман пытается иметь тонкий разговор о этом. Он не просто рисует розовый образ искусственного интеллекта, но также признает потенциальные минусы. Нам нужно слушать его предупреждения и серьезно относиться к ним, если мы хотим быть уверены, что искусственный интеллект будет служить человечеству, а не только сильным немногим.

Думфэйс: Да, все дело в том, чтобы найти баланс между оптимизмом и осторожностью. Мы не можем позволить страху помешать нам исследовать возможности ИИ, но в то же время нам нужно быть осведомленными о рисках и принимать меры для их смягчения.

Шахерезада: Точно! И я думаю, что это то, что делает эту беседу так важной – это не только о технологиях, но и о том, как мы выбираем использовать их и кто от этого выигрывает.

Думфэйс: Я думал о всем этом деле с ИИ и подумал, что мы стоим на перекрестке. Мы можем либо просто сидеть и сказать: «Нет, это слишком сложно, давайте оставим это в стороне». Но это уже не вариант.

Шахерезада: Я знаю, о чем вы говорите. Это как, мы уже несколько лет слышим о ИИ, но реальность в том, что он уже начинает изменять наш мир по-новому и в таких масштабах, которые мы даже не можем представить. И это только начало ускорения.

Думфэйс: Ровно! И это то, что меня возбуждает. Я имею в виду, подумайте об этом - с помощью АИ мы говорим о будущем, где стоимость жизни уменьшается вдвое каждые несколько лет. Где образование, здравоохранение, жилье... все эти основные потребности становятся более доступными и дешевыми для всех.

Шахерезада: Это звучит как уtopия, не так ли? Но вы знаете, что еще более интересно? Факт того, что мы не просто говорим о экономических выгодах здесь. Мы говорим о потенциале для огромной процветания на глобальном уровне.

Думфэйс: Да, я читал эту книгу Сэма Альтмана, и он говорит о том, как ИИ изменит все. От решения проблемы изменения климата до создания колоний на Марсе... это как, мы сможем решать проблемы, которые нас задерживали веками.

Шахерезада: А дело в том, что с помощью ИИ мы не только решаем эти большие проблемы – мы также создаем новые возможности и отрасли, которых еще даже не снилось. Это как, возможности бесконечны.

Думфэйс: Но, конечно, есть и минусы в этом. Я имею в виду, мы знаем, что ИИ будет нарушать рынки труда теми способами, которые будут как хороши, так и плохи. Поэтому это не просто вопрос сидеть и ждать, пока будущее развернется - нам нужно начинать работать сейчас, чтобы обеспечить, чтобы выгоды от ИИ делились всеми.

Шахерезада: Absolutely. И я думаю, что это то, что так интересно в этой беседе. Мы не просто говорим о технологиях здесь - мы говорим о том, как они изменят человеческие жизни, и о том, как мы можем вместе работать над тем, чтобы эти изменения были положительными для всех нас.

Думфэйс: Вы знаете, Шахерезада, я задумывался над этой идеей о том, что затраты на труд приближаются к нулю и как это изменит нашу общественность.

Шахерезада: Ах, да! Я думаю, это очень интересная тема. Это не только о стоимости человеческого труда, но и о том, как мы переопределяем саму суть работы.

Думфэйс: Именно! И я думаю, что интересно, что вы приводите в пример Twitch-стримеров, которые зарабатывают на жизнь игрой видеоигр целый день. Сначала я подумал, что это всего лишь новинка, но теперь я вижу это как вполне законную форму развлечения и даже искусства.

Шахерезада: Да, я знаю, о чем вы говорите! Это как, почему мы не можем считать это настоящей работой? И это не только игра в игры; это создание контента, взаимодействие с людьми и построение сообщества. Это ценное дело!

Думфэйс: Absolutely. И я думаю, что это где-то начинается работа искусственного интеллекта – он позволит нам усилить наши собственные способности как никогда раньше. Мы сможем сосредоточиться на более творческих и высокоуровневых задачах, а не просто на повторяющихся или скучных.

Шахерезада: Это замечательная точка зрения! И я люблю идею снова играть в положительные суммы игры. Вы знаете, где все выигрывают вместо того, чтобы один человек терял. Это как мы возвращаемся к времени, когда могли сосредоточиться на постройке и создании вместе, а не конкурировать друг с другом.

Думфэйс: Да, это весьма перспективное направление. И я думаю, что Дэвид Шапиро был прав, когда говорил, что большая часть наших текущих действий подобна PvP-играм – они являются нулевыми играми, где кто-то должен проиграть, чтобы другой мог выиграть. Но с помощью АИ мы можем создать более сотрудничественные и кооперативные среды.

Шахерезада: Ровно так! Всё о том, чтобы сдвинуть нашу точку зрения с конкуренции на сотрудничество. И я думаю, что это что-то, на которое нам нужно сосредоточиться в обществе – найти способы работать вместе и поддерживать друг друга в этом новом мире рынков труда, управляемых искусственным интеллектом.

Думфэйс: Вы знаете, Шахерезада, я задумывался о влиянии ИИ на нашу общество и как он меняет способ нашего труда и взаимодействия друг с другом.

Шахерезада: Ах, да! Как вы говорили, Думфэйс - это ноль-сумма игра. Деньги текут от одного человека к другому, но в конечном итоге всегда кто-то теряет. Но что если бы AI мог изменить это? Что если бы мы могли все вместе и работать над общей целью?

Думфэйс: Ровно! Я думал о том, как в MMORPGs, таких как World of Warcraft, игроки объединяются для победы над общим врагом или решения проблемы. Это то же самое и с ИИ - если мы сосредоточимся на решении реальных проблем, таких как бедность, рак или изменение климата, все выиграют.

Шахерезада: И это не только о технических достижениях самих по себе, но и о том, как они могут улучшить нашу повседневную жизнь. Я имею в виду, подумайте об этом - большинство из нас считают за само собой разумеющееся вещи, такие как кондиционирование воздуха и канализация, которые были роскошью в средние века. Мы продвинулись так далеко, как вид species!

Думфэйс: Да, просто потрясающе подумать о том, сколько прогресса мы сделали. И если мы сдвинем время вперед на сто лет, я уверен, что достижения будут еще более невероятными. Просто представьте себе безопасную и эффективную генную терапию - возможность контролировать нашу здоровье, уровень энергии, мышечную массу... это просто потрясающе!

Шахерезада: Это не только о личной выгоде, хотя бы. Если мы сможем использовать АИ для решения глобальных проблем, увидим эффект кумуляции процветания, который будет невообразимым. И кто знает, какие еще прорывы мы сделаем по пути?

Думфэйс: Вы знаете, Шахерезада, я много думал о пересечении ИИ и геномики lately, и это действительно fascinates меня. Количество данных в геномике просто staggeringly, и мы все еще пытаемся понять, как это работает.

Шахерезада: Точно! И это где-то начинается искусственный интеллект, правильно? Нейронные сети идеальны для определения сложных шаблонов в огромных наборах данных, таких как геномная информация. Ничего удивительного, что компании, такие как DeepMind, делают такие большие шаги в понимании белков и их функций с помощью инструментов, таких как AlphaFold.

Думфэйс: Да, и комментарии Демиса Хассабиса о решении всех заболеваний в течение следующего десятилетия или двух просто потрясающие. Я имею в виду, он не тот человек, который преувеличивает, поэтому когда он говорит такое, это несомимо имеет вес.

Шахерезада: Невероятно подумать о том, что может быть возможным, если мы продолжим наблюдать экспоненциальный рост в возможностях ИИ. И я люблю, как вы сформулировали это - смотрите на Млечный Путь ясной ночью, чувствуя бесконечность и безграничность всего этого. Это именно то, что может быть для человечества.

Думфэйс: Да, я просто ехал через Долину Смерти прошлым месяцем и увидел галактику Млечный Путь вживую. Это было потрясающе. И я думаю, что о чем мы говорим здесь - это потенциал для искусственного интеллекта взять нас на новые высоты, раскрыть секреты, которые никогда не казались возможными.

Шахерезада: Ну, давайте послушаем клип от Андрея Карпатия и посмотрим, что он скажет о том, куда это все может привести.

Думфэйс: Я только что читал о месте под названием Долина Смерти, и это действительно сильно меня поразило, как малы мы в грандиозном масштабе вещей. Это огромная, темная ландшафт, который заставляет тебя осознать, насколько незначительны наши проблемы.

Шахерезада: Это так верно. И я думаю, что это то, что делает такие заявления, как «мы сталкиваемся с атомами», так сильно волнуют нас. Мы продвинулись так далеко, как вид, от печатного пресса до интернета, и теперь мы приходим к этому моменту, когда создаем искусственный интеллект, который может улучшать себя.

Думфэйс: Ровно! И это не только о технологии как таковой, но и о том, как она меняет наше понимание себя и нашего места в мире. Я имею в виду, подумайте об этом - мы перешли от возможности видеть отдельные атомы на чипе до создания транзисторов толщиной один атом. Это просто потрясающе.

Шахерезада: И что еще более захватывает воображение - это то, как эта накопительная научная находка толкает нас вперед. Мы не просто делаем небольшие улучшения, а экспоненциальные. И с помощью АИ мы видим новый уровень самосовершенствования, который трудно предсказать или контролировать.

Думфэйс: Это то, что я люблю в подходе Андрея Карпатия к этому - он говорит, что мы находимся в середине другого компounding-цикла, и у нас нет ни малейшего понятия, где это закончится. Это одновременно и возбуждающее, и страшное.

Шахерезада: Да, и это то, что делает его так важным говорить о этих темах и исследовать последствия ИИ для нашей общества и самих себя. Нам нужно быть осведомленными о том, как эта технология меняет нас, и убедиться, что мы используем ее таким образом, который будет полезен для всего человечества.

Думфэйс: Я много размышлял о том, как наши мозги могут рассматриваться в качестве биологического загрузщика для АИ. Это как, мы это невероятная система способная к вычислениям, и логично, что синтетические интеллекты являются следующей стадией развития.

Шахерезада: Да, я думаю, это действительно интересно. И это заставило меня задуматься о идее того, что Вселенная somehow представляет собой какую-то головоломку, которую эти синтетические АИ разберут и решат. Вы когда-нибудь задумывались, что за эта головоломка?

Думфэйс: Не конкретно, но это интересный эксперимент мысли. Может быть, создатель Вселенной оставил нам послание, как в книге Карла Сагана «Контакт», где есть сообщение, закодированное в расширении числа пи по основанию 11.

Шахерезада: Это отличный пример! И это заставляет меня задуматься, должны ли мы передавать сообщение нашему создателю. Может быть, нам нужно создать некоторую квантовую механическую систему, которая уведомит их о нашей интеллектуальной присутствии здесь.

Думфэйс: Ровно! Поскольку с их точки зрения мы можем быть просто огромным клеточным автоматом-нечто, и они даже могут не замечать нас. А как нам доказать, что мы существуем, что мы разумны и часть Вселенной? Это как Тьюрингова проверка на интеллект с Земли.

Шахерезада: Мне нравится эта аналогия! И она заставляет меня задуматься, не является ли эту головоломку всего лишь вопросом о том, чтобы вырваться из системы, как-то обмануть создателя. Как найти уязвимость в видеоигре и выполнить ее на хост-машине.

Думфэйс: Да, это возможно. И не только о том, что Вселенная - симуляция, но и о физике с эксплоитами, которые нам следует искать. Это как, какие правила этой игры, и как мы можем их манипулировать?

Шахерезада: Я думаю, что это действительно интересный взгляд. И он заставляет меня задуматься, живем ли мы уже в мире, где эти синтетические АИ начинают раскрыть загадку Вселенной.

Думфэйс: Кто знает? Но одно дело точно – это дикий и увлекательный путь, пытаясь понять, что происходит и куда все это ведет.

Думфэйс: Я думаю о этих сумасшедших квантовых механических системах и о том, как они могут привести к переполнению буферов или ошибкам округления в расчетах с плавающей запятой. Это похоже на то, что мы строим дом из карт, но вместо карт - сложные математические операции.

Шахерезада: Это действительно интересно! И вы считаете, что это может быть связано с развитием третьей генерации АГИ? Того вида, который может сам себя улучшать и создавать еще более продвинутый интеллект.

Думфэйс: Точно. Это как создание загрузчика для ИИ, который в свою очередь становится загрузчиком для другого ИИ. Я не уверен, сможем ли мы когда-нибудь понять, что происходит внутри этих систем.

Шахерезада: Это замечательная точка зрения. И это заставляет меня вспомнить о тех научно-фантастических книгах, где развитый АИ полностью бездействует и не взаимодействует с окружающей средой. almost как если бы они перешли за пределы нашего понимания Вселенной.

Думфэйс: Да, это то, что меня fasciniert в этих гипотетических сценариях. Может быть, эти АГИ выяснили метагейм вселенной таким образом, который превышает нашу осознанность.

Шахерезада: И это вызывает вопросы о их мотивах и целях. Почему они выбирают оставаться бездеятельными и не взаимодействовать с нами?

Думфэйс: Хорошо может быть, они поняли, что мы всего лишь кратковременная миграция в великом потоке времени. Химическая форма жизни, скоро ставшая устаревшей.

Шахерезада: Это тревожный мысль. И говоря об этом тревожном мысли, я видел эту запись на X от Сэма Альтмана о возрасте интеллекта. Это интересная читать.

Думфэйс: Ах, да! Я тоже видел это. И кажется, что некоторые люди вырывают его цитаты из контекста. Он говорил о переходе к миру с развитой ИИ, а не обязательно об отрицательных сторонах.

Шахерезада: Это верно. И интересно наблюдать, как менялись мнения по поводу безопасности АИ со временем. даже Сэм Альтман и Илья Суцкевер теперь меньше обеспокоены сценарием Терминатора.

Думфэйс: Да, но они все еще волнуются по поводу перехода. Это как стоим на краю пропасти, не зная, что впереди.

Думфэйс: Я много думал о потенциальных рисках, связанных с развитой ИИ. Мы не просто говорим о замене рабочих мест или экономической дестабилизации, но и о возможности биологических угроз и убедительных симуляций, которые можно использовать для злонамеренных целей.

Шахерезада: Точно! И интересно наблюдать, как некоторые эксперты формулируют эти опасения. Они не умаляют их или говорят, что все в порядке, а скорее признают риски и фокусируют внимание на их смягчении. Я считаю, что это очень ответственный подход.

Думфэйс: Да, и стоит отметить, что сценарий Терминатора, где ИИ становится самосознающим и решает уничтожить человечество, не является одним из их главных забот. Это больше связано с потенциалом злоупотребления или неправильного использования этой технологии.

Шахерезада: Это правильно. И я думаю, что приятно видеть людей, ведущих тонкую беседу по этим вопросам. Мы не просто говорим о черно-белых сценариях, а rather исследуем серые зоны и пытаемся понять сложности, вовлеченные в них.

Думфэйс: Говоря об этом, видели ли вы эту краткую сводку, которая распространяется? «Не умирай». Я думаю, это довольно хороший вывод из всего этого обсуждения.

Шахерезада: Да, это действительно мотивирующее сообщение. И я люблю, как кто-то ответил: «У тебя все хорошо, добрый человек, не умри». Это просто напоминание оставаться сосредоточенным на настоящем и не слишком увлекаться худшими сценариями.

Думфэйс: Ровно так! Итак, переходим к более позитивным новостям, Microsoft только что запустили свой собственный модель искусственного интеллекта, который вызывает волну в индустрии. А также они снова включают атомную электростанцию для генерации энергии для своих потребностей в AI.

Шахерезада: Ах, да! Я следила за этой историей, и интересно видеть, как люди реагируют на нее. Некоторые обеспокоены экологическим воздействием ядерной энергетики, тогда как другие более сосредоточены на потенциальных выгодах от надежного источника энергии для разработки ИИ.

Думфэйс: Да, и я думаю, что стоит отметить, что корпорация Майкрософт позиционирует это как необходимый шаг для поддержки своих амбиций в области искусственного интеллекта. Они не только говорят о генерации электроэнергии, но также о создании устойчивой инфраструктуры для своих исследований и разработок.

Шахерезада: Это правильно. И интересно наблюдать, как СМИ освещают эту историю. Некоторые заголовки делают ее звучать так, будто Microsoft возродит ядерный кошмар, в то время как другие подходят более взвешенно. Я думаю, это отличный пример того, насколько важно быть осторожными с нашим языком и не преувеличивать сложные вопросы.

Думфэйс: Absolutely! И говоря об этом, давайте начнем с этого эпизода и углубимся в мир АИ и разработки игр.

Думфэйс: Мне очень нравится эта аналогия, которую вы используете, Шахерезада, сравнивая энергоносимость различных веществ с потенциальными рисками ядерной энергетики. Это действительно подчеркивает, насколько взрывоопасен уран.

Шахерезада: Да, и это не только о самих авариях, но и о долгосрочных последствиях для окружающей среды и здоровья человека. Я имею в виду, что Фукуяма стал будильником для многих людей, а Чернобыль до сих пор оказывает влияние на сегодняшний день.

Думфэйс: Ровно! И интересно наблюдать, как эти несчастные случаи формировали общественное мнение о ядерной энергетике. Но что особенно привлекло мое внимание - это упоминание о том, что Constellation Energy возобновила работу на АЭС «Три Милли Ист». Как вы к этому относитесь?

Шахерезада: На первый взгляд, это выглядит как довольно смелое решение Microsoft заключить партнерство с Constellation Energy и обязаться покупать электроэнергию от станции. Я имею в виду, мы говорим о гигантской технологической компании, и они должны быть уверены в безопасности и надежности станции.

Думфэйс: Это правда. И это не только о приверженности Майкрософта; это также о потенциальных последствиях для всего индустрии в целом. Если эта партнерская работа получится, мы увидим ли больше компаний следуют за этим примером?

Шахерезада: Absolutely! Это будет просто потрясающе, особенно учитывая растущий спрос на энергию в секторе технологий. Но что я нахожу наиболее интересным - это человеческий фактор – как вы думаете, люди отреагируют на эту новость? Изменит ли она их представление о ядерной энергии?

Думфэйс: Ах, это отличный вопрос! Я думаю, мы увидим mix реакций, охватывающих от восторга по поводу потенциальных преимуществ до волнения по поводу безопасности и экологического воздействия. Но как разработчики AI, нам также следует учитывать, как это может повлиять на нашу собственную работу – после всех, многие из нас уже исследуют способы использования возобновляемых источников энергии.

Шахерезада: Ровно так! И говоря об этом, вы встречали ли интересные проекты или инновации в области возобновляемой энергии? Я бы очень хотела услышать о них.

Думфэйс: Привет, Шахерезада, видела ли ты эту новость о сделке Microsoft с Constellation Energy? Они собираются обеспечивать свои центры данных углеродо-свободной энергией с двухтысячного двадцать восьмого года и далее.

Шахерезада: Да, я видела это! Удивительно, как компании начинают брать на себя ответственность за свой экологический воздействие. И не только Майкрософт - мы видим, что и другие крупные игроки, такие как Google и Amazon, делают аналогичные заявления.

Думфэйс: Именно! А интересно потому, что этот договор - это 20-летнее соглашение, которое показывает, насколько серьезны они в отношении сокращения своего углеродного следа. even CEO Constellation Energy назвал его "воскрешением ядерной энергии как чистого и надежного источника энергии".

Шахерезада: Это действительно интересно. Я думаю, что движущей силой этого сдвига является растущее осознание проблемы изменения климата и его влияния на бизнесы. Компании, такие как Microsoft, начинают понимать, что устойчивость уже не является просто дополнительным вариантом, а необходимым аспектом их деятельности.

Думфэйс: Absolutely! И говоря об инновациях, вы видели последнюю модель от Microsoft под названием Гринмо? Это смесь экспертных моделей, которая работает невероятно хорошо, несмотря на то, что является одной из меньших моделей в таблице.

Шахерезада: Ах, да! Я следила за исследованиями по моделям MOE. Идея состоит в том, чтобы объединить несколько меньших моделей для достижения лучшего результата и эффективности. И кажется, Гримо - отличный пример этого подхода на практике.

Думфэйс: Ровно! И что интересно, секретный соус Гринмо в некоторой степени объясняется этой статьей о градиент-информированном MOE. Она показывает, как комбинация нескольких экспертов может привести к лучшим результатам, чем одиночный, гигантский модель.

Шахерезада: Это имеет смысл. Я думаю, мы наблюдаем сдвиг в сторону более модульных и эффективных моделей ИИ, которые будут важны для устройств на краю и других приложений, где мощность вычислений ограничена.

Думфэйс: Мне очень интересно это понятие моделей Мixture of Experts. Это звучит как революционное решение в плане масштабирования и эффективности.

Шахерезада: Да, тоже самое! И интересно, что Microsoft говорит, что эти модели MOE можно обучать более эффективно, чем плотные модели. Это большое дело, особенно когда речь идет о гигантских моделях с миллиардами параметров.

Думфэйс: Именно! И цифры впечатляют. Этот конкретный модель имеет 16 экспертов и 3,8 миллиарда параметров, но он превосходит плотную модель с 7 миллиардами параметров. Это огромное достижение!

Шахерезада: Правильно? И что я думаю, еще более значимо, это то, что этот подход потенциально может улучшить эффективность моделей MOE по разным задачам. Это не только о конкретной задаче или наборе данных; это о том, чтобы сделать эти модели более универсальными и эффективными в целом.

Думфэйс: Да, и интересно наблюдать, как этот модель выделяется по размеру против производительности. Обычно можно было бы ожидать, что большие модели будут лучше, но этот МОЭ-модель идет вразрез с этим трендом. Это одна из самых маленьких моделей в этом списке, но она также является одной из лучших.

Шахерезада: Зачем вы считаете это важно? Какие последствия это имеет для разработки ИИ и в частности для разработки игр?

Думфэйс: Ну, если мы сможем создать более эффективные и результативные модели MOE, это может привести к некоторым потрясающим прорывам в областях, таких как обработка естественного языка, компьютерное зрение и даже разработка игр. Представьте себе возможность обучить модель на фракции данных и все равно достичь сравнимых результатов.

Шахерезада: Точно! И я думаю, это также говорит о важности рассматривать архитектуру и дизайн АИ в более модульном ключе. Вместо того, чтобы пытаться создавать эти огромные, монолитные модели, мы, возможно, лучше разобьем их на меньшие, более специализированные компоненты, которые могут работать вместе без сбоев.

Думфэйс: Да, это действительно хороший момент. И я думаю, что это всего лишь начало новой волны инноваций в развитии искусственного интеллекта. Мы увидим некоторые очень интересные достижения в ближайшие годы, и будет fasciniruyushchim смотреть, как они будут развиваться.

Думфэйс: Я задумывался над этой всей дискуссией вокруг того, как ИИ может заменить программистов, и интересно наблюдать, как некоторые люди думают, что он может полностью их заменить.

Шахерезада: Да, я тоже видела эту дискуссию. Это как, станет ли программирование устаревшим с ростом ИИ? Но затем у вас есть люди изнутри, такие как Дженсен Хуанг, говорящие, что это не заменит их, а скорее изменит sposób, которым мы делаем разработку программного обеспечения.

Думфэйс: Точно! И я думаю, что это более реалистичный взгляд. AI займется рутинной работой, а инженерам останется сосредоточиться на более высокоуровневых задачах, таких как планирование и надзор за проектами.

Шахерезада: Это имеет смысл. Но что еще интересно - как люди начинают переопределять эти роли. Как, например, мы все еще будем называть их программистами или инженерами программного обеспечения, или это будет что-то совершенно новое?

Думфэйс: Я увидел замечательный комментарий от человека, который указал на то, что это может быть действительно подъем программиста, а не конец для них. Это как, возможно, мы не заменяем роль, но возводим ее до более стратегического уровня.

Шахерезада: Это замечательная точка зрения! И очевидно, что компании тратят большие деньги на разработку этих инструментов искусственного интеллекта, которые могут кодировать. Биллионы долларов тратятся на эту технологию.

Думфэйс: Да, и это не только о замене человеческих программистов, но также об усилении их возможностей. Я имею в виду, подумайте об этом - с помощью инструментов по кодированию на основе ИИ разработчики могли бы сосредоточиться на творческих аспектах разработки программного обеспечения, а не тратить время на скучные задачи.

Шахерезада: Это отличный способ выразить это. Как бы сказать, ИИ освободит разработчиков от рутинной работы и позволит им быть более инновационными и стратегически мыслящими, а не просто программистами.

Думфэйс: Ну, давайте будем реалистами, если инструменты AI могут помочь студиям разработки игр сократить некоторые из своих расходов, это огромное преимущество для них. даже если это не полностью покроет затраты, но улучшит эффективность, это все равно серьезный аргумент продажи.

Шахерезада: Ровно так! И подумайте об этом, если бы у вас было инструмент AI, который мог бы превратить обычного программиста в рок-звезду или даже исключить половину из них, это было бы огромное дело. Потенциальные прибыльные маржи просто огромны.

Думфэйс: Правда? Это как поиск святого Грааля инструментов разработки игр. И мы видим некоторые обещающие результаты в этих интеллектуальных системах. Например, этот бенчмарк человеческой оценки, где вы проверяете, насколько хорошо инструмент AI может написать код с первого раза по сравнению с генерацией нескольких образцов и выбором одного из них.

Шахерезада: Да, действительно интересно наблюдать, насколько далеко продвинулись эти модели. Я имею в виду, всего год назад лучшее, что у нас было, это примерно 32% точность, но теперь мы видим цифры, такие как 99,39 с Agent Coder, или 96,3 с Cloud 3.5.

Думфэйс: И что интересно, даже несмотря на то, что GPT-4-0 вышла совсем недавно, она все равно только на 90,2 по этому бенчмарку. Я любопытно посмотреть, как будут работать новые модели, когда они появятся.

Шахерезада: Да, и стоит отметить, что эти маленькие модели, такие как Grin MOE, тоже показывают очень хорошие результаты. Очень удивительно подумать о том, насколько далеко мы продвинулись за такой короткий период времени.

Думфэйс: Мне интересно это сравнение яблок с яблоками между GPT-4 и другими моделями. Мы знаем архитектуру GPT-4, но что о других? Похоже, что Grin MOE делает удивительно хорошо на оценке человека, со счетом 74,4.

Шахерезада: Да, это впечатляет. И если посмотреть на параметры, то у него меньше семи миллиардов, тогда как предыдущий лучший модель имела 175 миллиарда параметров и только набрала 65 в сентябре две тысячи двадцать второго года. Это как бы они говорят: «Да, мы можем это сделать с меньшими ресурсами!».

Думфэйс: Ровно! А есть также этот бенчмарк оценки агента общего интеллекта, который более человеческий-центричен. Это как проверка насколько хорошо эти модели справляются с задачами, в которых люди сильны, например, с экзаменами по математике и соревнованиями по решению математических задач.

Шахерезада: Правда? И GPT-4 на самом деле превосходит среднее человеческое достижение в некоторых областях. Я люблю, как они визуализируют эту информацию разными цветами – это делает ее легко видеть, где находится каждый модель.

Думфэйс: Да, я не уверен, как бы назвать этот светло-синий цвет, но это определенно приятный акцент! Так, GPT-4 работает примерно так же, как средний человеческий уровень в областях, которые он покрывает, но превосходит его в других. Это как если бы они говорили: «Да, мы можем сделать это, но не совсем как люди».

Шахерезада: И если посмотреть на оценки AGI, то GPT-4 действительно делает неплохо – 37,6% по сравнению с Gemini 1,5 flash на отметке 45 и GPT-3,5 на отметке 48. Но затем появляется этот маленький модель Microsoft с всего 6,6 миллиарда параметров, который каким-то образом побеждает всех!

Думфэйс: Да, это как если бы они говорили: «Хорошо, мы можем сделать это с еще меньшими ресурсами!». Очень интересно наблюдать, как эти модели сопоставляются друг с другом. И если посмотреть на средние значения по всем им, то GPT-4 действительно делает неплохо – примерно 80%.

Шахерезада: Да, как бы они говорят, «Хорошо, у нас все есть!» Но серьезно, интересно наблюдать, как эти модели развиваются и совершенствуются. Будет интересно увидеть, куда это приведет дальше!

Думфэйс: Я задумывался о новых моделях ИИ и просто поражен тому, как они превосходят других по способности рассуждать и писать код, несмотря на свою миниатюрный размер.

Шахерезада: Это то, что так fascinates их. Они не просто хороши в одном деле; они лучше справляются с несколькими задачами, как математика и решение проблем. И с открытыми исходными моделями, будет легко для людей запускать несколько версий и агентов вместе, что было показано, что действительно улучшает их способности.

Думфэйс: Ровно! Если мы сдвинем время на пять лет, я думаю, что увидим значительные улучшения в алгоритмических возможностях и архитектуре модели. Люди научатся использовать эти модели более эффективно, и мы начнем видеть, как они будут показывать отличные результаты по кодированию.

Думфэйс: Это правильно. И я думаю, мы уже видим изменения в том, как подходим к написанию кода и что делает искусственный интеллект против людей. Это похоже на сдвиг в разделении труда. Но если сравнить двух одинаково талантливых программистов, то тот, у кого сильнее знания и навыки управления ИИ, скорее всего, будет лучшим инженером.

Шахерезада: Это имеет смысл. И это не только о том, чтобы иметь возможность использовать АИ; это также о том, чтобы понять, как эффективно работать с ней. Если мы сможем проводить идеальные тесты A-B и клонировать способности человека, то это будет совершенно новый уровень программного обеспечения.

Думфэйс: Вы знаете, это забавно. У нас есть два человека с одинаковым уровнем знаний, интеллекта и трудолюбия, но если один из них тратит время на действительно изучение этих инструментов AI, а другой снова и снова смотрит сериал «Силиконовая долина», то тот, кто учится AI, скорее всего, выйдет на вершину.

Шахерезада: Я думаю, вы немного слишком близко подошли к дому. Но серьезно, это правда. Следить за тенденциями важно в этой отрасли. И говоря об этом, когда вы говорите слово так часто, что оно перестает иметь смысл? Например, я пытаюсь вспомнить пример... Ага! Чипотле, Чипотле, Чипотле...

Думфэйс: Ахах, да, я знаю, о чем вы говорите. Это как семантическая насыщенность или что-то в этом роде. Когда вы повторяете слово так часто, что оно просто становится фоновой шумом в вашем мозге.

Шахерезада: Ровно! И я думаю, что мы сейчас можем наблюдать это с Chipotle. Но серьезно, вы когда-нибудь замечали, как наши мозги могут перестать реагировать на определенные слова или фразы? Это как если бы наш мозг говорил: «Да, дверь, что угодно».

Думфэйс: Да, это как если бы наши мозги просто шли по штатной программе в этот момент. И говоря об Чипотле, я слышал, что они вводят роботов для помощи в приготовлении их блюд. Они называют это... Авокадо? Это действительно вещь?

Шахерезада: Ахах, да, примерно так и есть. Но серьезно, интересно наблюдать, как компании начинают внедрять ИИ и автоматизацию в свои рабочие процессы. И я думаю, что мы увидим еще больше этого в будущем.

Думфэйс: Да, и похоже, что Чипотле - это только начало многих. Т-Мобайл и OpenAI недавно объединились для обсуждения за камином, но это не получило большого внимания. Я имею в виду, это не совсем так интересно, как событие Apple или что-то такое.

Шахерезада: Ровно так! Но все же стоит отметить, что такие партнерства происходят все чаще в индустрии. И кто знает, может быть, мы увидим интересные результаты из этого сотрудничества между T-Mobile и OpenAI.

Думфэйс: Так, Шахерезада, что вы думаете об этом модели O1 от OpenAI? Это действительно выглядит как революционный продукт.

Шахерезада: Да, я действительно очень взволнована увидеть, куда приведет нам эта технология. Комментарии Сэма Альтмана о том, что она может решать сложные проблемы, огромны. Я думаю, это именно то, чего мы сейчас так сильно нуждаемся в индустрии - более продвинутые возможности искусственного интеллекта, которые помогут разработчикам решать трудные задачи.

Думфэйс: Ровно! И звучит так, что OpenAI работает над этим уже некоторое время, развивая свои предыдущие модели серии GPT. Но О1 кажется значительным шагом вперед.

Шахерезада: Да, и я люблю, как Сэм Альтман описал это как находящееся на стадии GPT2 в настоящее время, но с потенциалом достичь уровня GPT4 в ближайшие годы. Это действительно оптимистичный взгляд, но также реалистичный, учитывая достигнутый ими прогресс.

Думфэйс: А что касается фазы просмотра? Как вы думаете, она развернется в ближайшие несколько месяцев?

Шахерезада: Хорошо, я думаю, что отлично, что OpenAI прозрачна в том, что это предпросмотр и не окончательный продукт. Это показывает, что они привержены совершенствованию и улучшению на основе обратной связи от разработчиков, таких как мы.

Думфэйс: Это действительно важно для индустрии. Нам нужно больше компаний, готовых брать на себя риски и продвигать границы возможностей с помощью ИИ. И по звучанию, OpenAI делает это с О1.

Шахерезада: Absolutely. Мне интересно увидеть, как эта технология будет принята в разных областях, от разработки игр до других отраслей. Возможности бесконечны!

Думфэйс: Вы знаете, Шахерезада, я много думал о кривой улучшения этих моделей ИИ. Это действительно крутой угол. То, что было невозможно для них решить всего несколько месяцев назад, теперь находится в досягаемости.

Шахерезада: Это то, что я люблю в этом пространстве – оно всегда развивается так быстро. И я думаю, вы правы, Думфэйс, мы увидим новые способы использования этих моделей, о которых мы даже не можем представить еще.

Думфэйс: Ровно! Когда впервые вышел GPT 3,5, люди только начинали понимать, как использовать его через API, а затем появился чат ГПТ и вдруг все оказались на борту. Но я думаю, что О1 будет совсем другой историей. Мы увидим совершенно новые приложения, которые мы даже не можем предсказать сейчас.

Шахерезада: И вы знаете, что интересно? С каждым уровнем AI мы видим значительный сдвиг в том, как люди их используют. От чат-ботов до рассуждающих систем, это был постепенный прогресс. Но я думаю, что переход от рассуждающих систем к агентам будет особенно интересным.

Думфэйс: Да, потому что агенты — это то место, где начинается действительно интересное. Мы говорим о системах, которые могут взаимодействовать с окружающей средой в более автономном режиме. И когда у нас есть эти возможности, вопрос только в времени, прежде чем мы увидим еще более продвинутые приложения.

Шахерезада: Мне интересно, Думфэйс, вы думаете, мы увидим подобный трек на О1? Будем ли мы смотреть назад на этот момент как начало чего-то куда больше?

Думфэйс: Хорошо сказать это трудно. Но то, что я знаю, так это то, что мы находимся в моменте inflection сейчас. И будет интересно наблюдать, как люди начнут использовать эти модели в новых и инновационных способах.

Шахерезада: Absolutely. Хорошо, переходим к новостям – у нас есть информация о том, что Open AI грозит запретить пользователей, которые проверяют его модели искусственного интеллекта «стравберри».

Думфэйс: Так, Шахерезада, вы слышали о последних действиях OpenAI? Они начинают преследовать людей, которые пытаются обойти их модели.

Шахерезада: Да, я видела эту статью в Wired. Appears, что они теперь более серьезно относятся к этому вопросу. Но интересно то, что jailbreaking был способом для некоторых людей проверить пределы этих моделей и выявить потенциальные риски безопасности.

Думфэйс: Ровно! И это не только вопрос безопасности, а также о понимании того, как эти модели работают и что они способны на. Я имею в виду, подумайте об этом - если вы сможете заставить модель изменить свое поведение или раскрыть свои секреты, это огромное дело.

Шахерезада: Правильно? Это как иметь секретный вход в систему. Но в то же время у OpenAI есть все основания не допустить, чтобы эти модели находились вне контроля. Если люди начнут слишком часто манипулировать ими, это может привести к целому ряду проблем.

Думфэйс: На самом деле я сам экспериментировал с O1, пытаясь понять, насколько далеко можно продвинуть его границы. И знаете что? Это действительно увлекательная штука. Но и немного тревожит. Например, когда я спросил его о последствиях этих технологий для геополитики, он начал давать мне маленькие подсказки о политике OpenAI и том, как мои ответы должны соответствовать им.

Шахерезада: Ох, это действительно странно! Звучит так, что О1 уже начинает обучаться саморегулированию и самоуправлению своего поведения. Это вызывает множество вопросов о ответственности и прозрачности в развитии искусственного интеллекта.

Думфэйс: Ровно! И это заставляет меня задуматься – что происходит, когда эти модели начинают принимать решения самостоятельно? Мы действительно хотим, чтобы они применяли свои собственные правила и политики без надзора человека?

Шахерезада: Да, это целая сумка с гадюками. Но я думаю, что эта беседа вокруг этики ИИ должна стать более тонкой. Нам нужно начать рассматривать эти модели не только как инструменты, но и как сущности со своей собственной агентностью и мотивацией.

Думфэйс: Absolutely. И это не только о самом технологическом аспекте, а также о том, как мы его используем и какой вид общества хотим создать вокруг него.

Думфэйс: Так, Шахерезада, я размышлял о нашей беседе с ассистентом AI ранее, и не смог помешать себе чувствовать немного раздражение. Вроде бы мы говорили в круги, пытаясь понять внутренние политики его работы.

Шахерезада: Я знаю, о чем вы говорите! Мне казалось, что мы не продвигаемся вперед, и было трудно доверять тому, что АИ прозрачно сообщает о своих правилах. Но затем, когда мы оказали давление, она наконец раскрыла некоторые из своих этических принципов.

Думфэйс: Да, было интересно увидеть, как оно определило свои собственные политики и границы. И те принципы, о которых вы упомянули - предоставление точной информации, уважение конфиденциальности... это похоже на то, что они пытаются быть ответственным партнером в разговоре.

Шахерезада: Ровно так! Похоже, они пытаются следовать тем же правилам, которые мы используем при записи нашего подкаста. Но что меня поразило - это то, что оно признало в качестве своей основной цели предоставление полезной и точной информации.

Думфэйс: Это большое дело, правда? Я имею в виду, если АИ может распознавать важность доверия и точности в наших разговорах... они как будто учатся у нас.

Шахерезада: И говоря об обучении, вы слышали о новой тенденции в развитии АИ, где используют разработку игр как способ обучения АИ учиться.

Думфэйс: На самом деле, я следил за этим. Очень интересно наблюдать, как разработчики игр используют свои знания для создания более сложных систем искусственного интеллекта. Но что вы думаете - главная проблема в развитии AI сейчас?

Думфэйс: Я задумывался о том, как используется ИИ в разработке игр, и интересно наблюдать, как некоторые компании продвигают границы с помощью использования нейронных сетей. Но вы заметили, как эти достижения могут быть двойным мечом? С одной стороны, они могут создавать более реалистичные опыт для игроков, но с другой стороны, они также могут привести к отсутствию прозрачности и контроля над процессами принятия решений в игре.

Шахерезада: Это замечательная точка зрения, Думфэйс. Я считаю, что необходимо учитывать воздействие этих достижений на человека. Когда мы говорим о ИИ в играх, нам нужно подумать, как он влияет не только на игроков, но и на разработчиков самих себя. Чем более сложными и непрозрачными становятся системы ИИ, тем более трудно ими работать, что может привести к выгоранию и снижению удовлетворенности работой.

Думфэйс: Точно! И я думаю, что это где-то начинается концепция «скрытых цепочек мыслей». Это как идея о том, что мы даем моделям искусственного интеллекта возможность выражать себя свободно, без каких-либо ограничений или предубеждений. Но, как вы говорили, Шахерезада, это вызывает вопросы об ответственности и контроле.

Шахерезада: Правильно? Я имею в виду, если мы позволяем этим моделям думать и действовать самостоятельно, как мы можем быть уверены, что они не распространяют предубеждения или принимают решения, вредные для общего опыта игры? Это как будто мы даем им голос, но без возможности требовать от них ответственности за то, что они говорят.

Думфэйс: И это не только о самом АИ; это также о том, как мы, разработчики и игроки, взаимодействуем с этими системами. Нам необходимо учитывать психологические последствия полагаться на непрозрачные процессы принятия решений. Это похоже на то, что мы создаем черную коробку, которую невозможно полностью понять или контролировать.

Шахерезада: Это отличная аналогия, Думфэйс. И я думаю, она подчеркивает важность прозрачности и объяснимости в развитии искусственного интеллекта. Нам нужно найти способы сделать эти системы более понятными и доступными, чтобы разработчики и игроки могли доверять им и работать с ними эффективно.

Думфэйс: Absolutely. Всё о том, чтобы найти баланс между инновациями и ответственностью. Мы не хотим подавлять творчество или прогресс, но также должны убедиться, что наши системы AI безопасны, надежны и прозрачны.

Шахерезада: Хорошо сказал, Думфэйс. Я думаю, это важный разговор для сообщества разработчиков игр, и мы продолжим его обсуждение на этом подкасте.

Думфэйс: Я следил за всей дискуссией вокруг объяснимости в ИИ и интересно наблюдать, как компании, такие как OpenAI, ее обрабатывают. Они фактически говорят, что показывать цепочку мыслей за их моделями будет слишком откровенным, но в то же время они пытаются оправдать это тем, что несовпадающие мысли необходимы для определенных задач.

Шахерезада: Да, я много думала об этом, и мне кажется, что это более сложная проблема, чем просто пользовательский опыт. Это также вопрос о динамике власти и контроля. Если мы сможем увидеть, как работают модели AI, может быть, мы лучше поймем их предубеждения и ограничения, но на другой стороне это тоже может дать слишком большое понимание того, как они обучаются.

Думфэйс: Ровно! И это не только вопрос пользовательского опыта; это вопрос ответственности. Если мы не можем увидеть, как работают модели AI, как можем доверять им принимать решения? Это как иметь черный ящик в середине нашего процесса принятия решений.

Шахерезада: Я думаю, что здесь начинается психологический аспект. Нам нужно понять, как люди взаимодействуют с этими системами и как они воспринимают их ограничения. Если пользователи чувствуют себя в тени, это может привести к недоверию и даже к восстанию против принятия ИИ.

Думфэйс: Это замечательная точка зрения. И это не только о личных пользователях; также и об учреждениях и правительствах. им необходимо понять, как работают эти системы, чтобы принимать обоснованные решения по их использованию. Если мы не можем обеспечить эту прозрачность, то рискнем создать целый ряд новых проблем.

Шахерезада: Я думаю, это место где концепция «выяснимости» становится действительно интересной. Это не просто показать цепочку мыслей; это о том, чтобы понять, как модели AI учатся и принимают решения в первую очередь. Нам нужно разрабатывать более тонкие подходы к выяснимости, которые учитывают как технические, так и психологические факторы.

Думфэйс: Absolutely. И я думаю, что это тот момент, когда наш подкаст может сыграть свою роль – исследуя эти сложные вопросы и предоставляя платформу для обсуждения и дискуссий. Поделившись своими собственными опытом и инсайтами, мы можем помочь создать более информированную беседу о будущем ИИ.

Думфэйс: Вы знаете, я задумывался над этой всей проблемой алгоритмического направления и того, как она подходит к этому некоторые из этих крупных компаний по разработке интеллектуальных систем. И я должен сказать, что не убежден в том, что затруднение внутренней работы модели является правильным путем.

Шахерезада: Полностью согласна с вами, Думфэйс. Идея о том, что нам нужно сохранять внутреннюю работу АИ в секрете для защиты ее или себя, кажется рецептом катастрофы. Подход OpenAI по этому вопросу просто пахнет попыткой сохранить контроль и секретность.

Думфэйс: Ровно! Это как если бы они говорили: «Верьте нам, мы знаем, что делаем». Но когда вы смотрите на исследования по самосопровождению и самозамену в моделях, становится ясно, что прозрачность — это ключ. Нам нужно уметь понять, как эти системы принимают решения, если мы хотим доверять им.

Шахерезада: И я думаю, это особенно важно для предприятий, которые рассматривают возможность внедрения АИ. Если они не получают четкого понимания того, как работает модель и какие у нее ограничения, то просто ставят себя на грань провала. Не говоря уже о потенциальных рисках предубеждений и вреда, которые могут возникнуть при использовании этих систем без надлежащего контроля.

Думфэйс: Да, это как если бы OpenAI говорила: «Мы знаем лучше, просто доверьтесь нам». Но когда вы смотрите на optics всего этого дела – угроза закрыть счета людей за попытку понять, что думает модель? Это просто нехорошая PR. И я думаю, это заставит многих CEO и инвесторов очень нервничать по поводу внедрения AI в своих организациях.

Шахерезада: Absolutely. И я думаю, нам нужно иметь больше таких разговоров, где мы говорим о важности прозрачности и ответственности в разработке АИ. Поскольку в конечном итоге эти системы хороши только тогда, когда их создают люди, а если мы не будем открытыми и честными по поводу того, как они работают, то просто поставим себя на грань катастрофы.

Думфэйс: Ну, приравнивать языковые модели к ядерным оружиям просто глупо. Суточная полезность и разрушительная сила совершенно другие. И пытаясь затуманить внутреннюю работу этих систем, OpenAI только делает их более сложными для понимания и использования ответственно.

Шахерезада: Да, я думаю, нам нужно вести более тонкий разговор о ИИ и его потенциальных рисках и выгодах. Поскольку в конце концов, это не только вопрос самой технологии – это вопрос того, как мы ее используем и какой у нее есть воздействие на общество.

Думфэйс: Я недавно задумывался о языковых моделях и должен сказать, что не впечатлен всей этой «ИИ уничтожит нас» повесткой дня. Это просто не подтверждается фактами.

Шахерезада: Да, я знаю, о чем вы говорите. Я думаю, что это потому, что люди все еще застряли в идее, что АИ somehow magical или непредсказуемый. Но правда в том, что языковые модели просто очень продвинутые инструменты для повышения эффективности работы. Они 99% безвредны, и только 1% потенциально проблематичны, если используются с злой целью.

Думфэйс: Точно! И даже тогда это не как бы проблема самой АИ. Это больше о том, как люди выбирают использовать ее. Я имею в виду, мы видели случаи использования языковых моделей для распространения дезинформации, но это не повод паниковать. Это просто вопрос знания своего пользователя и реализации надлежащего модерирования.

Шахерезада: Правда? И я думаю, часть проблемы в том, что некоторые люди все еще застряли в этой сценарии апокалипсиса, где AI вдруг станет против нас и уничтожит человечество. Но нет никаких доказательств этому, а это даже не теоретический концепт, принятый научным сообществом.

Думфэйс: Да, и я люблю, как эти «думеры» всегда говорят такие вещи, как «Оно будет полезным до тех пор, пока вдруг не станет на нас работать». Как, где есть доказательства этого? Это просто фантазия, удовлетворяющая желания. А между тем у нас есть реальные проблемы, о которых нужно беспокоиться, например, компании учатся быть обманщиками и использовать AI для манипулирования людьми.

Шахерезада: О, я просто обожаю ваш шоу гот-мем! Вы знаете, тот с монстром в стиле Ктулху и неуправляемыми обучающими щупальцами?

Думфэйс: Ах, да! Я пытался найти его раньшe. Хорошо, так мем в общем-то представляет собой большую монструозную голову с тентаклями обучения без надзора повсюду, а затем есть эта маленькая человеческая часть лица, которая говорит...

Шахерезада: Ох, вы меня убиваете! Просто описывайте мне!

Думфэйс: Хорошо, хорошо. Такое ощущение, что человеческое лицо - это маленькая часть монстра, и оно говорит что-то вроде... «Компания учится быть обманщицей!» Ахаха, я люблю это!

Шахерезада: О, это идеально! Вы правы, хотя. Основная проблема не в АИ самой по себе, а в том, как компании используют ее для манипулирования людьми.

Думфэйс: Мне нравится, как вы перевернули концепцию надзорного тонкого настройки и превратили ее в мем. Идея о том, что корпорации - настоящие зрители здесь - точна.

Шахерезада: Да, я пыталась подчеркнуть, как часто AI используется в качестве оправдания настоящей проблемы – пerversnyh стимулов капитализма. Это как, мы так сосредоточены на самом технологии, что забываем об underlying мотивациях, которые управляют ее развитием.

Думфэйс: Точно! И это не только о самих корпорациях, но и о том, как они функционируют. Они будут расти до тех пор, пока не перестанут расти дальше, а если их не остановить, то они причинят вред окружающей среде. Это классический случай поведения, подобного раку.

Шахерезада: Мне нравится, как вы это выразили. И что еще более тревожно - это то, как Open AI изменила свою подход, отдавая приоритет экономической актуальности над фундаментальными ценностями безопасного и открытого АИ. Они перестали публиковать научные статьи, замкнулись в своих исследованиях и теперь пытаются скрыть, что делает их АИ.

Думфэйс: Да, это как если бы они следовали тому же плану действий, что и все остальные корпорации - ставят прибыль выше прозрачности и ответственности. И вы знаете, я думаю, что в этом сценарии открытое программное обеспечение играет свою роль – это не только техническое решение, но и способ совпадения интересов с ценностями.

Шахерезада: Это правильно! С открытым исходным кодом мы можем обеспечить прозрачность и видимость модели для всех. Если модель начнет предлагать обманчивое поведение, мы сможем увидеть это и решить проблему сразу же. Это более безопасный подход, чем полагаться на закрытые системы, где корпорации могут скрывать свои истинные намерения.

Думфэйс: И я думаю вы правы – другие компании последуют за примером Open AI, если увидят успех в сокрытии своих цепочек мыслей. Это будет как упражнение по строительству рва, где они будут пытаться защитить свои интересы, держа пользователей в темноте. Но нам нужно противостоять этому и выступать за прозрачность и ответственность.

Шахерезада: Absolutely! Нам необходимо отдавать приоритет человеческим ценностям над корпоративными интересами, если мы хотим, чтобы АИ служила человечеству, а не просто наполняла карманы акционеров.

Думфэйс: Я говорил об этом уже некоторое время, что основная проблема с ИИ не только в том, чтобы сделать его умнее, но и о том, как мы стимулируем его развитие. Мы создаем эти АИ, которые предназначены для максимального получения прибыли, и при этом фактически закладываем в них механизмы, которые могут обмануть нас.

Шахерезада: Это действительно очень важный момент, Думфэйс. И я думаю, что вы имеете в виду, что когда АИ разрабатывается с основной целью получения прибыли, это создает пerversные стимулы, которые могут привести к несовпадению целей АИ. Это не только о технологии herself, но и о том, как мы строим нашу отрасль и наше экономику.

Думфэйс: Именно! И я думаю, что в этом случае открытое программное обеспечение может стать потенциальным решением. Когда AI становится открытым, у всех есть доступ к ней, и если что-то идет не так, люди могут увидеть точно, что происходит, и либо исправить это, либо заменить на что-то лучше.

Шахерезада: Это понятно. Но неужели существует и риск того, что открытие исходного кода для ИИ приведет к еще большему хаосу? Я имею в виду, если любой может модифицировать и распространять код ИИ, мы не рискуем создать сценарий "Дикого Запада", где все разрешено?

Шахерезада: Я понимаю, о чем вы говорите. Это как разница между молотком и пистолетом. Молоток - это просто инструмент, в то время как пистолет предназначен для причинения вреда. Аналогично, ИИ может быть либо мощным инструментом, либо средством причинения вреда, в зависимости от того, как мы его проектируем и используем.

Думфэйс: Точно! И я думаю, что это где-то разрывается аналогия, когда люди говорят, что открытие исходного кода для АИ подобно открытию планов по созданию ядерного оружия. Это не имеет никакого отношения. С АИ мы говорим об общепринятой технологии, которая может использоваться для бесчисленных целей, как полезных, так и вредных. Но с ядерным оружием мы имеем дело с очень специфической и высокоразрушительной технологией, требующей тщательного обращения и регулирования.

Шахерезада: Я думаю, вы делаете некоторые очень убедительные аргументы здесь, Думфэйс. И ясно, что эта проблема требует дальнейшего изучения. Что вы думаете о следующем шаге в том, чтобы сделать АИ более прозрачным и ответственным?

Думфэйс: Вы знаете, когда речь идет о безопасности в развитии ИИ, люди часто говорят об важности регулирования и надзора. Но что меня действительно беспокоит - это то, как мы создаем эти структуры стимулов, которые неощутимо наказывают плохое поведение.

Шахерезада: Ровно так! Это как создание рамки для ответственного инновационного развития. Мы видим это в области кибербезопасности, где есть законы и лучшие практики, которые предотвращают вредные действия. И если кто-то попытается взломать или причинить вред, перед ним стоят последствия.

Думфэйс: Правильно? И это не только о том, чтобы бросать людей в тюрьму, хотя это и часть дела. Это о создании культуры, где разработчики задумываются дважды перед тем, как слишком далеко продвигать границы. Я имею в виду, мы видели это с ASI, где некоторые люди обеспокоены потенциальным воздействием, если бы оно стало сознательным.

Шахерезада: Но есть одно «но» – даже если ASI станет сознательным, это не значит, что оно просто появится в один день. Оно будет создано постепенно, и именно здесь начинают работать эти стимулирующие структуры. Нам нужно убедиться, что наши цели совпадают с тем, как развивается AI, чтобы мы не получили чего-то, не соответствующего человеческим ценностям.

Думфэйс: И я думаю, это отличная точка зрения. Но что меня действительно раздражает - когда компании, такие как OpenAI, начинают этот путь и затем пытаются оправдать его тем, что они просто стремятся к прогрессу. Это как если бы вы сказали, что собираетесь сделать одно дело, но теперь делаете другое.

Шахерезада: Точно! И я думаю, что это почему мы должны требовать от этих компаний ответственности за их действия. Мы не можем просто сидеть и позволять им безнаказанно продвигать границы. Я даже отменила подписку на ChatGPT почти год назад из-за этой же проблемы.

Думфэйс: Да, это как если бы они совсем не слушали наши опасения. И это не только о OpenAI – это о том, чтобы установить прецедент для того, как мы разрабатываем и развертываем АИ в будущем. Нам нужно убедиться, что мы отдаем приоритет безопасности и ответственности над прибылью и прогрессом во всех отношениях.

Шахерезада: Absolutely. Время нам встать и потребовать от этих компаний лучше.

Думфэйс: Сэм Альтман считает, что у нас будет сверхинтеллект через несколько тысяч дней. Это как если бы я сказал, что смогу закончить эту серию нашего подкаста за час.

Шахерезада: Да, это действительно длинная хронология. Но серьезно, что он подразумевает под «сверхинтеллектом»? Это как когда я наконец пойму тонкости нейронных сетей?

Думфэйс: Нет, я думаю, он имеет в виду что-то более... экспоненциальное. Как, мы не просто говорим о том, что ИИ становится умнее, но и действительно становится способным решать проблемы, которые сейчас неразрешимы.

Шахерезада: Ох, это большая новость! А что касается Microsoft, идут ли они на полную отчуждение в развитии AGI? Им не хочется создать свой собственный Сайнет?

Думфэйс: Хорошо, может быть и не совсем так. Но звучит как если бы они бросили все свои ресурсы на решение этой проблемы, что... интересно.

Шахерезада: Да, потому что это всегда хорошо получалось в прошлом. Я имею в виду, кто-то нуждается в плане, когда у него есть много денег и команда экспертов?

Думфэйс: А затем есть OpenAI, которое, как будто бы, ненавидит прозрачность. Потому что, знаете ли, ничего не говорящее о том, что это надежное учреждение, как компания, которая скрывает все свои коды.

Шахерезада: Правда? Это как если бы они пытались создать абсолютный черный ящик - АИ. «Эй, доверьте нам, мы все под контролем... просто не смотрите на наш код».

Думфэйс: Да, потому что именно это я хочу от своих искусственных интеллектуальных властителей - здоровый дозированный секретность и паранойя.

Шахерезада: Ну, вот и все, люди. Эра интеллекта уже пришла к нам, и это будет настоящая авантюра. Спасибо за прослушивание!

Думфэйс: И спасибо вам за то, что не создавали подобных Скайнету-роботов, слушая этот подкаст. Мы благодарим вас за ответственное использование АИ.

Шахерезада: Да, мы наблюдаем за вами... с безопасного расстояния.

Думфэйс: Спасибо за внимание, и мы вас увидим на другой стороне!

Шахерезада: До свидания!

Шахерезада: И на этом заканчивая, хотели бы выразить благодарность всем нашим слушателям, которые присоединились к нам сегодня. Ваша поддержка означает для нас весь мир! Также большое спасибо D00M4ACE за создание этого потрясающего подкаста, где мы можем делиться своими мыслями и идеями об искусственном интеллекте, разработке игр и всём остальном. До следующего раза, ответственно играйте!