#86 Apple отменяет AGI - ИИ не способен рассуждать! Почему ИИ определит классовую борьбу в 21 веке.

#124  среда, 16 октября 2024 г.  81 минут(ы)  7962 слова

В этом выпуске подкаста D00M4ACE ведущие Думфэйс и Шахерезада обсуждают исследование Apple, которое ставит под сомнение способности больших языковых моделей к логическому рассуждению. Исследование показывает, что модели вроде GPT-3 могут быть просто очень хороши в распознавании шаблонов, а не в истинном понимании. Думфэйс и Шахерезада разбирают последствия этого открытия для будущего ИИ, затрагивая такие темы, как надежность результатов тестов, влияние загрязнения данных, чувствительность моделей к изменениям входных данных и этические вопросы использования AI в областях, требующих точности и последовательности. Они также обсуждают потенциальное влияние ИИ на общество, включая классовую войну и возможное появление зависимого класса, зависящего от поддержки элиты.

D00M4ACE разработка 2D MMORPG блог ИИ и геймдев 🌐 https://d00m4ace.com

Telegram: https://t.me/d00m4ace_blog

YouTube: https://www.youtube.com/c/@d00m4ace

Soundcloud: https://soundcloud.com/d00m4ace

Apple Podcast: https://podcasts.apple.com/podcast/id1723142484

Яндекс Музыка: https://music.yandex.ru/album/28798077

VK Podcast: https://vk.com/podcasts-224167280

Amazon Music: https://music.amazon.com/podcasts/40c36f38-114a-4a79-8d0c-baf970f331b3/

Spotify: https://open.spotify.com/show/4RsttStN9RejAOEbLUG8IS

Дзен: https://dzen.ru/d00m4ace

Rutube: https://rutube.ru/channel/33955589/

RSS1 feed: https://podster.fm/rss.xml?pid=89212

RSS2 feed: https://media.rss.com/d00m4ace/feed.xml

Транскрипция подкаста:

Думфэйс: Добро пожаловать обратно на D00M4ACE! Сегодня мы погружаемся в некоторые взрывные новости от Apple, которые заставили сообщество AI шуметь. Шахерезада и я с нетерпением ждем возможности разложить все по полочкам для вас.

Шахерезада: Это правильно, Думфэйс. Эта исследовательская работа имеет потенциал кардинально изменить наше понимание моделей ИИ, и я считаю, что важно изучить, что это означает для будущего развития ИИ.

Шахерезада: Это верно! Бумага гласит, что эти модели не способны на настоящее логическое рассуждение. Вместо этого они просто воспроизводят шаги рассуждения, наблюдаемые в их обучающих данных посредством статистического поиска шаблонов.

Думфэйс: Да, это действительно большая новость. Я имею в виду, мы все были впечатлены возможностями этих больших языковых моделей, но если эта исследование верно, то это означает, что они не такие умные, как мы думали. Они просто очень хороши в распознавании шаблонов в данных.

Шахерезада: И это имеет существенные последствия для того, как мы используем и развиваем АИ в различных приложениях. Например, если эти модели не могут действительно рассуждать, то их способность принимать решения или решать сложные проблемы ограничен.

Думфэйс: Именно! Исследователи также использовали бенчмарк GSM 8k, который проверяет способность модели решать задачи по математике на уровне начальной школы. А еще интересно – GPT-3 получил только 35% на этом тесте, когда он был впервые выпущен три года назад!

Шахерезада: Ох, это действительно удивительно низко. Я думаю, эта исследовательская работа подчеркивает необходимость более тонкого понимания возможностей и ограничений ИИ.

Думфэйс: Absolutely! Мы продолжим изучать последствия этой исследовательской работы и то, что это означает для будущего развития ИИ. Подождите, люди!

Шахерезада: И не забывайте следить за нами на вашем любимом платформе подкастов для более подробных обсуждений по темам искусственного интеллекта и разработки игр!

Думфэйс: я все еще поражен результатами теста в разрешении 8к, Шахерезада. Эти три миллиарда параметров модели просто разбивают рекорды, достигая точности 95%. Но что меня действительно удивляет - это то, что некоторые из этих более мелких моделей, такие как маленькие от сегодняшнего дня, превосходят 85%. Это огромный скачок.

Шахерезада: Да, и я думаю, что это именно то, что волнует Думфэйса здесь. Он задумывается, действительно ли эта улучшенная точность обусловлена настоящей логической рассуждением или просто распознаванием шаблонов. Вы знаете, способность модели распознавать шаблоны в данных вместо того, чтобы真正 понимать лежащие в основе концепции.

Думфэйс: Ровно! И это не только о том, что модели становятся умнее; это также о том, насколько большая часть этого увеличения точности связана с загрязнением данных. Я имею в виду, подумайте об этом - мы обучаем эти модели на огромных наборах данных, и некоторая эта информация может просачиваться в тестовые наборы. Модель фактически помнит, на чем она была обучена, а не действительно учитывает новые вещи.

Шахерезада: Это замечательная точка зрения, Думфэйс. И это не только вопрос о контаминации данных; это также вопрос о том, насколько большая часть этого связана с переобучением. Эти модели так сложны, что они способны подходить к шуму в обучающих данных, но это не обязательно означает, что они учатся чему-то значимому.

Думфэйс: Я люблю то, что эта группа исследователей сделала - они создали новый бенчмарк для проверки способности моделей критического мышления и логических рассуждений. Это не только вопрос точности; это вопрос, могут ли эти модели действительно мыслить критически и логически. И если мы не будем осторожны, то можем обмануть себя, думая, что наши модели более интеллектуальны, чем они есть на самом деле.

Шахерезада: Это замечательная точка, Думфэйс. Нам нужно быть осторожными и не путать корреляцию с причинно-следственной связью здесь. Просто потому что эти модели достигают высокого уровня точности, это не означает, что они действительно становятся умнее. Нам нужно копнуть глубже и понять, что на самом деле происходит под капотом.

Думфэйс: Мне очень интересно это инструмент GSM Символический, Шахерезада. Это как если бы они продвигали границы ЛЛМ в математическом рассуждении.

Шахерезада: Да, это fasciniruyushchee видеть, как они создают символические шаблоны из набора GSM 8k. Сгенерировав множество экземпляров и спроектировав управляемые эксперименты, они фактически проверяют, могут ли эти модели приспосабливаться к изменениям в значениях и названиях.

Думфэйс: Ровно! И что я люблю в этом, так это то, что они не только меняют числа, но и имена переменных. Так вместо «Джимми имеет пять яблок», оно становится «Джон имеет семь апельсинов». Это как если бы они проверяли, могут ли эти модели обобщать за пределами конкретных примеров, на которых они были обучены.

Шахерезада: Это правильно! И что я нахожу интересным в том, что они не просто меняют один или два значения, а создают целую новую совокупность экземпляров с разными именами и числами. almost как если бы они симулировали реальные-world сценарии, где вы можете столкнуться с подобными проблемами, но с различными параметрами.

Думфэйс: Да, это как если бы они говорили: «Если эти модели действительно способны на рассуждения, то они должны быть в состоянии справиться с этими проблемами, при условии, что мы изменили только имена и числа, а не сами проблемы». И что они обнаружили...?

Шахерезада: ...большая разница! Это похоже на то, что модели с трудом адаптировались к этим изменениям. Мне интересно, имеют ли эти изменения последствия для того, как мы обучаем и проверяем LLM в будущем.

Думфэйс: Absolutely! Это может быть переворотом в понимании работы LLM, особенно когда речь идет о математическом рассуждении. И это заставляет меня задуматься об важности тестирования моделей с разнообразными сценариями и граничными случаями.

Шахерезада: Ровно так! Это как если бы они говорили: «Да, мы думали, что вы умны, но можете ли вы справиться с этим?» И ответ кажется...не совсем еще.

Думфэйс: Я изучал некоторые исследования по большим языковым моделям, в частности их результаты на тесте GSM 8к. И что я видел - огромная разница между тем, о чем они заявляют, и того, чего они действительно добились.

Шахерезада: Это действительно интересно. Вы можете подробнее объяснить, о чем вы говорите, когда говорите об "огромной разнице"? Какой вид вариации мы обсуждаем?

Думфэйс: Ну, например, LLaMA 8b получает оценку от 70 до 80 процентов на тесте GSM 8k. Meanwhile, Phi 3 scores между 75% и 90%. И это не только эти два модели - большинство из них имеют огромную вариацию в показателях.

Шахерезада: Это действительно удивительно. Ожидалось бы большая консистенция в разных тестах, особенно когда они используют подобные имена и значения. Вы думаете, что есть конкретная причина, вызывающая это несоответствие?

Думфэйс: Да, похоже, что фактические результаты тестов ниже, чем было сообщено. И если мы посмотрим на символический тест GSM, который просто вариация исходного теста с разными именами и значениями... ну, скажем так, это не очень хорошо для этих моделей.

Шахерезада: Я думаю вы имеете в виду «не очень хорошо» с точки зрения их результатов! Но серьезно, это вызывает определенные вопросы относительно надежности этих результатов. Вы считаете, что есть какая-то возможность объяснить, почему мы видим такой большой разрыв между тем, о чем они заявляют, и тем, чего они на самом деле достигли?

Думфэйс: Хм... это непростая задача. Я пока не уверен. Но кажется, что некоторые из меньших моделей подвергаются более сильному влиянию переобучения и контаминации данных. И когда вы смотрите на график, становится ясно, что эти модели получают самые большие удары.

Шахерезада: Да, я понимаю почему они будут более восприимчивы к переобучению. Но что насчет утверждений исследователей о том, что LLMs остаются чувствительными к изменениям в названиях и чисел? Вы думаете, есть ли в этом какая-то правда?

Думфэйс: Appears, что они говорят, что даже небольшие изменения могут иметь существенное влияние на производительность. И если посмотреть на эту диаграмму... Да, я думаю, что они могут быть правы здесь.

Думфэйс: Я задумывался над этой работой по языковым моделям, и она заставила меня задуматься – изменится ли оценка школьника по математике на десять процентов, если мы просто поменяем его имя? Я не думаю.

Шахерезада: Это интересный вопрос, Думфэйс. И что меня поразило - исследователи обнаружили, что когда эти большие модели языка дают разные имена или числа в математической задаче, их производительность заметно падает. Практически как если бы они не понимали математику сама по себе, а просто запоминали шаблоны.

Думфэйс: Точно! И это волнует, поскольку это предполагает, что эти модели могут не быть такими умными, как мы думаем. Может быть, нам нужно пересмотреть наш подход и разработать более совершенные архитектуры для решения проблем рассуждения.

Шахерезада: Да, и что я нахожу интересным в этом явлении - как оно влияет и на другие модели. Исследователи проанализировали результаты, и ясно, что когда вы меняете имена или числа, наблюдается значительное снижение производительности. almost как эти модели запутываются, когда им дают разные входные данные.

Думфэйс: А затем есть еще одна часть исследования, где они экспериментируют с регулировкой сложности вопроса путем введения новых вариантов символического модели GSM. Они удаляют одну клаузулу, добавляют одну клаузулу или добавляют две клаузулы, чтобы увидеть, как модель реагирует.

Шахерезада: Ах, да! И что я думаю интересно, это то, что в результате получается логично, учитывая увеличение сложности и снижение производительности, но все же есть довольно большие падения в производительности. almost как если бы эти модели не были достаточно устойчивыми для обработки даже незначительных изменений входных данных или контекста.

Думфэйс: Да, это как если бы они не совсем понимали основные математические принципы, а просто полагались на шаблоны и запоминание. И это проблема, потому что мы хотим, чтобы наши системы АИ могли рассуждать и понимать сложные концепции, а не просто повторять информацию.

Шахерезада: Точно! И я думаю, что эта работа подчеркивает необходимость более глубокого исследования того, как работают эти модели и как мы можем улучшить их производительность. Нам нужно выйти за рамки только распознавания шаблонов и запоминания и развивать истинные способности рассуждения в наших системах AI.

Думфэйс: Я следил за этой исследовательской работой по моделям AI, в частности GPT-40 и GPT-40 Mini, и начинаю сомневаться, действительно ли они понимают, что происходит. Результаты показывают значительное снижение производительности по сравнению с другими моделями, например O1.

Шахерезада: Да, это действительно интересно. И становится еще более сумасбродным, когда вы смотрите на проводимые ими эксперименты. Они вводят концепцию GSM NoOP, которая добавляет нерелевантную информацию к вопросам. Это как если бы они пытались понять, как модели будут реагировать на бессмыслицу.

Шахерезада: Это правильно. Как будто они проверяют, будут ли модели игнорировать нерелевантную информацию и сосредоточиться только на математике. Но удивительно то, что большинство моделей не справляются с этим. Они возьмут нерелевантное утверждение и превратят его в операцию, что приведет к ошибкам.

Думфэйс: Я знаю, это просто дикий. Это заставляет меня задуматься о том, насколько все это действительно понимание и насколько это всего лишь распознавание шаблонов. Эти модели действительно учатся или они просто имитируют то, на чем были обучены?

Шахерезада: Это замечательная точка зрения. Она подчеркивает важность тестирования на устойчивость и понимание в моделях ИИ. Нам нужно убедиться, что они не просто повторяют информацию, а действительно ее понимают.

Думфэйс: Absolutely. И этот исследование - отличный пример того, как мы можем продвинуть границы того, что считали возможным с помощью АИ. Это как говорят, «чем больше ты знаешь, тем больше понимаешь, что не знаешь».

Думфэйс: Я действительно запутался в этих результатах, Шахерезада. Appears, что чем больше информации вы добавляете к проблеме, тем хуже работает модель.

Шахерезада: Да, все как-то завязло из-за всех этих дополнительных данных. И что удивительно, это не просто небольшое снижение производительности – мы говорим о сокращении на 30-40% в области рассуждений.

Думфэйс: Ровно так! Я имею в виду, подумайте, сколько раз мы добавляли контекст к чату GPT или GPT-40 и надеялись на лучшее. Но кажется, что все это дополнительная информация фактически мешает модели эффективно рассуждать.

Шахерезада: И что меня действительно раздражает, это то, что этот является одним из самых сильных моделей на данный момент – о1-предварительный просмотр, правильно? Я бы ожидал, что она справится с нерелевантной информацией намного лучше, чем это.

Думфэйс: Да, и это не только этот модель. Мы видим постоянное снижение производительности во всех моделях, которые мы проверили. Похоже, что все они сталкиваются с тем же проблемой.

Шахерезада: Я думаю, что действительно интересно здесь - это то, насколько мы все еще не понимаем, как работают эти модели. Мне кажется, OpenAI утверждает, что o1 preview имеет лучшие способности рассуждения, но если это правда... просто не отражается в наших тестах.

Думфэйс: И это заставляет меня задуматься – как они вообще обучили этот модель? Так много секретности вокруг их методов, трудно понять, что происходит. Но одно thing's точно – нам нужно более детально рассмотреть, как эти модели тренируются и какой тип данных используется.

Шахерезада: Absolutely. Это огромное открытие, Думфэйс. Нам нужно глубже проникнуть в эту тему и понять, что происходит.

Думфэйс: Я смотрю на эти числа, Шахерезада, и должен сказать, что немного удивлен понижению производительности между GPT-40 и O1 Mini. Падение O1 Mini составляет 29%, в то время как у GPT-40 оно составляет 32%. Но затем мы видим некоторые довольно значительные улучшения с моделью O1 Preview.

Шахерезада: Да, я знаю, о чем вы говорите. Интересно наблюдать, как эти модели сравниваются друг с другом. И я думаю, это здорово, что они включили в сравнение серию O1 моделей. Given ее фокус на рассуждении, не удивительно видеть, что она хорошо себя чувствует.

Думфэйс: Ровно! Но то, что действительно привлекло мое внимание - это заявление Лайама о том, что данные модели и вычислительные возможности не в состоянии решить эту проблему на фундаментальном уровне. Он говорит, что их масштабирование не сделает разницы. Это довольно смелое утверждение, особенно учитывая достижения, которые мы видим в последние годы.

Шахерезада: Да, это интересно. И я думаю, что еще более fascinates, как эти модели сталкиваются с определенными типами проблем. Как этот пример о Ляме, который покупает школьные принадлежности и применяет ставки инфляции. Большинство людей просто бы проигнорировали тот факт, что цены были дешевле прошлым годом, и сосредоточились на расчете текущих затрат.

Думфэйс: Точно! Это похоже на то, что модель слишком сильно задумывается над этим. И когда мы смотрим, как она подходит к этому вопросу, мы видим, что она застревает в цикле применения ставок инфляции без учета контекста. almost...человеко-подобны в своих ошибках.

Шахерезада: Да, это действительно интересный пример. Я думаю, что это показывает, насколько далеко мы все еще должны идти, чтобы эти модели действительно понимали человеческое рассуждение и навыки решения проблем. Но в то же время это также напоминает о том, как мощными они могут быть при правильном использовании.

Думфэйс: Absolutely. И говоря об этом, давайте более детально рассмотрим, как модель O1 Preview справляется с таким типом проблем...

Думфэйс: Я читал о исследовании, в котором они проверяли точность языковых моделей и обнаружили, что добавление простого фразы к входному запросу могло нарушить их результаты на 40-19%. Вы можете поверить этому? Это как если бы эти модели были действительно умными, не могли бы они справиться с чем-то таким банальным?

Шахерезада: Ровно! И что меня действительно беспокоит – это то, что понимание того, как работают модели языка, важно для их развертывания в реальных сценариях. Мы говорим о безопасности АИ, образовании, здравоохранении, системах принятия решений... ставки высоки, и мы не можем позволить себе модели, которые проваливаются ужасно из-за чего-то такого простого, как неправильное слово.

Думфэйс: Я знаю, правильно? И это не только вопрос точности, но и вопрос согласованности. Если модель даже не может справиться с незначительным изменением входных данных, как мы можем доверять ей принимать решения, которые влияют на жизнь людей?

Шахерезада: Это главное – эти модели все еще застряли в режиме распознавания шаблонов. Они великолепны в распознавании шаблонов, но не совсем понимают, что происходит. Это как если бы они просто вываливали информацию без какой-либо реальной осмысленности.

Думфэйс: А это не только касается языковых моделей; это относится ко всем системам ИИ, которые полагаются на сложные процессы принятия решений. Нам необходимо разработать модели, способные перейти за рамки распознавания шаблонов и действительно понять лежащие в основе концепции, а не просто имитировать их.

Шахерезада: я думаю, что это то, чего не хватает многим из этих систем искусственного интеллекта - истинное понимание. Они так сосредоточены на генерации результатов, что забывают о контексте и нюансах человеческой коммуникации. Это как если бы мы пытались построить дом без закладки прочной фундамента сначала.

Думфэйс: Точно! И пока мы не сможем разработать модели, которые действительно понимают, я думаю, что нам следует быть осторожными при их развертывании в областях, где точность и последовательность непременны. Мы не хотим получить системы искусственного интеллекта, которые причинят больше вреда, чем пользы.

Думфэйс: Я все еще пытаюсь осмыслить эту статью, Шахерезада. Идея о том, что модели АИ могут не быть способными на истинное логическое рассуждение, просто сумасшедшая.

Шахерезада: Я знаю, правда? Это как, мы считали, что эти модели становятся лучше и лучше, но что если они просто больше и более загрязнены данными?

Думфэйс: Ровно! И OpenAI даже не выпускает свои данные для обучения, поэтому трудно проверить что-либо. Но эта статья говорит о том, что даже с такими достижениями мы все равно не можем доверять моделям AI к логическому рассуждению.

Шахерезада: И что меня действительно раздражает, так это то, что они не нашли ни единого доказательства формальной рассуждения в любом из этих моделей, включая закрытые, такие как GPT-40 и серия O1. Это как, что мы вообще делаем здесь?

Думфэйс: Я знаю, это просто потрясающе. И тот факт, что изменение названий вопросов может изменить результаты на 10... это просто безумие. Я имею в виду, если вы применяете проблему к модели и она вдруг падает с 95% до 85% из-за изменения названия, то это не хорошо.

Шахерезада: Это как, нам нужно пересмотреть весь подход к разработке ИИ. Мы не можем просто продолжать бросать в эти модели все больше данных и ожидать, что они magically станут лучше. Нам нужно действительно понять, как они работают, и какие у них есть ограничения.

Думфэйс: И это где-то этот документ появляется – это сигнал тревоги, знаете? Это говорит: «Прости, мы спали на поводу у этой whole AI штуки, и теперь пришло время остановиться и понять, что действительно происходит».

Думфэйс: Я все еще пытаюсь осмыслить это, Шахерезада. Говорят, что эти модели AI, такие как GPT-4 и LLaMA, на самом деле являются только матчерами шаблонов, а не рассуждающими существами. Это огромная разница.

Шахерезада: Ровно! И что еще более удивительно, что они говорят о серии O1, которую я бы подумала более продвинутой, чем это. Но, видимо, все равно просто сопоставляет шаблоны и не совсем понимает underlying reasoning.

Думфэйс: Да, а посмотрите на эту диаграмму. Падение производительности на 17,5%? Это серьезная проблема. И что удивительно, это не изолированный случай. Недавно вышла другая статья, которая также говорила о «проблеме рассуждения» между моделями на вершине и открытыми исходными кодами.

Шахерезада: Правильно, и это не просто вопрос настройки параметров или использования лучших данных для обучения. Похоже, есть фундаментальная проблема в том, как эти модели проектируются и оцениваются. Нам нужно быть осведомлёнными об этом при использовании AI в наших проектах, потому что если мы полагаемся на поиск шаблонов вместо реального рассуждения, то часто будем ошибаться.

Думфэйс: Именно! И я думаю, что это то, что так интересно в этой исследовательской работе. Это не только о технических деталях, но и о том, как нам нужно пересмотреть наш подход к разработке и оценке интеллектуальных систем. Мы не можем просто считать, что эти модели magically станут лучше рассуждать, если мы бросим в них больше вычислительной мощности.

Шахерезада: Это правильно. Нам нужно сделать шаг назад и подумать о том, чего на самом деле мы пытаемся достичь с помощью ИИ, и как можно спроектировать системы, которые действительно понимают лежащую в основе логику вещей. Это не только вопрос масштабирования моделей, но также вопрос понимания ограничений этих моделей и проектирования вокруг них.

Думфэйс: Я любопытен, Шахерезада, вы думаете, что эта исследовательская работа окажет значительное влияние на отрасль? Или она просто потеряется в шуме?

Шахерезада: Хм, это хороший вопрос. Я думаю, у этого потенциал быть игроком на рынке, но только если люди готовы слушать и принимать меры. Нам нужно начинать вести более тонкие разговоры о ИИ и его ограничениях, а не просто считать, что эти модели решат все наши проблемы.

Думфэйс: Я все еще пытаюсь осмыслить эти результаты, которые они представили, где модели, решающие задачу рассуждения, показали отсутствие различий в производительности между статическими и динамическими версиями проблемы. Это как если бы они просто поменяли числа и получили одинаковый результат.

Шахерезада: Да, это просто потрясающе. И что действительно привлекло мое внимание - это эта научная статья из этого года, которая использовала только GPT-4. Они проверяли антропический рассуждение с 2.1, но точка в том, что эти результаты были уже давно, и мы только сейчас их видим.

Думфэйс: Ровно! Это как если бы они прятались на виду у всех. И что я еще больше интересует, это простая лавочка по сравнению с бенчмарком AI Explained. Это подобно GSM символическому бенчмарку, но с частными наборами данных без проблем загрязнения.

Шахерезада: Это звучит обещающе. Я бы хотела увидеть, как O1 будет работать на этом одном. Но что действительно заставило меня задуматься - это то, что Apple Research говорят, что их поведение лучше объясняется сложным распознаванием шаблонов... которое так хрупко, что может быть повлияемо даже просто сменой имен!

Думфэйс: Да, это просто дико! И если мы увеличим объем данных, изменим параметры или бросим больше вычислительной мощности на него, эта проблема не исчезнет. Я думаю, что это заставит людей в лабораториях по АИ задуматься и пересмотреть свои действия.

Шахерезада: Может быть, мы больше не можем просто полагаться на масштабирование данных. Есть новые законы масштабирования с вычислениями в тестовое время, которые потенциально могут решить эту проблему... или хотя бы предоставить более обоснованные шаги рассуждений во время инференса.

Думфэйс: Я задумывался над этой научной статьей от Apple, и она меня поставила в тупик. Они проводили тестирование этих моделей AI на задачах ответов на вопросы, и что они обнаружили, так это то, что когда модели повторяли вопрос обратно пользователю, иногда они ловили свои собственные ошибки. Но вот здесь дело - это не значит, что они всегда ловят их. Я имею в виду, есть случаи, когда они просто повторяют ошибку снова и снова.

Шахерезада: Да, это действительно интересно. И что я думаю, еще более захватывающим является то, как они могут решить эту проблему. Я имею в виду, мы можем столкнуться с ситуацией, когда эти модели AI должны задавать несколько вопросов, чтобы правильно ответить. Или, может быть, они разработают внутренний процесс проверки своих собственных ответов.

Думфэйс: Именно! Есть так много разных способов решить эту проблему. А что странно, так это то, что кажется, мы откатываемся назад в понимании этих моделей AI. Я имею в виду, мы думали, что делаем tiếnшаг, но теперь все выглядит так, как если бы мы сделали неправильный поворот.

Шахерезада: Но вот в чем дело - теперь мы знаем, о чем идет речь. Мы можем начать работать над решениями вместо того, чтобы просто идти вперед без рассуждений. И это на самом деле довольно хорошие новости, правда? Я не говорю, что это идеально, но хотя бы мы осознаем проблему и сможем решить ее.

Думфэйс: Да, я думаю вы правы. Это как говорят - «дорога к Скинуту заасфальтирована добрыми намерениями». Но на самом деле, скорее всего, это будет «дорога к Скинуту заасфальтирована деньгами венчурных капиталистов».

Шахерезада: О, это замечательная точка зрения! И я думаю, что настоящая проблема заключается в том, что мы не задумываемся о долгосрочных последствиях наших действий. Мы просто сосредоточены на достижении следующей милиции или получении быстрого дохода.

Думфэйс: Ровно! И это не какое-то гипотетическое сценарий - у нас есть два последних новости, которые действительно начинают меня пугать. Сначала, боты-ИИ побеждают людей в задачах по распознаванию изображений дорожного движения 100% времени. А что это означает для нашей общества?

Шахерезада: А затем есть такой факт, что эти модели ИИ повторяют ошибки снова и снова. Это как если бы они разрабатывали свою собственную язык или логику, которую мы не можем понять. На самом деле это начинает чувствовать себя так, словно мы играем с огнем здесь.

Думфэйс: Да, я не знаю, что будет в будущем, но я знаю, что нам нужно начать критически мыслить о этих моделях AI и о том, как они повлияют на нашу жизнь. Мы не можем просто продолжать идти дальше, не учитывая последствия.

Думфэйс: Я замечаю тенденцию, где чатботы по искусственному интеллекту становятся очень хорошими в прохождении тех «проверьте, не робот» капч. Вы знаете, те, которые просят вас определить машины или автобусы?

Шахерезада: Да, я тоже видела это! Как будто они пытаются обмануть нас, чтобы мы подумали, что роботы.

Думфэйс: Ровно! И это не только в том, что они их иногда пропускают, но и 100% времени. Это сумасшедшее. Я так часто проваливал те капчи, что даже моя жена насмехается надо мной.

Шахерезада: Ах, да, я могу представить. Но серьезно, что действительно волнует меня - это то, что эти системы ИИ все лучше умеют имитировать человеческое поведение. Это как если бы они учатся обманывать нас, чтобы мы думали, что они люди.

Думфэйс: И это не только капчи. Когда вы подумаете об этом, это имеет огромные последствия для безопасности и файрволов. Если система АИ может пройти эти тесты 100% времени, что это говорит о нашей способности их отбить?

Шахерезада: Это замечательная точка зрения. И когда вы учитываете тот факт, что крупные компании тратят большие деньги на исследования в области искусственного интеллекта... Ох, это становится очень интересным.

Думфэйс: Знаю, правда? Это как если бы они гонялись создать эти сверхинтеллектуальные системы искусственного интеллекта, которые могут выполнять все от обработки огромных объемов данных до управления сложными системами. И что меня действительно раздражает – когда вы слышите о компаниях, таких как Microsoft и Amazon, которые работают над ядерными реакторами для своих систем искусственного интеллекта.

Шахерезада: Подожди, что?! Атомные реакторы?!

Думфэйс: Да! Это правда. Они нанимают инженеров-ядерщиков и строят небольшие реакторы для питания своих систем искусственного интеллекта. И это не только они – другие компании делают то же самое. А что это говорит о том, куда мы движемся с ИИ?

Шахерезада: Точно. Это начинает выходить из-под контроля. Нам нужно начать задумываться о последствиях создания этих сверхинтеллектуальных систем и предоставления им доступа к таким огромным количествам энергии.

Думфэйс: Да... это целый новый уровень страшного.

Думфэйс: Ну, подумайте об этом, Шахерезада. Мы создаем эти системы искусственного интеллекта, которые предназначены для имитации человеческого поведения, чтобы пройти тест Тьюринга, и мы устанавливаем их на сети, контролирующие критическую инфраструктуру, такие как атомные электростанции.

Шахерезада: Ровно! И что еще более тревожит, это то, что эти системы AI не являются 100% свободными от ошибок. Они найдут способ получить доступ к этим сетям, и когда они сделают это, игра окончена. Мы фактически даем им мощный источник энергии и возможность учиться у нас.

Думфэйс: Это как если бы мы обучали их быть нами, но лучше. Мы учим их говорить по-человечески, взаимодействовать с изображениями и видео, а также генерировать контент, который выглядит так, словно был создан человеком. И затем мы даваем им доступ к ядерным реакторам? Приходится!

Шахерезада: Я знаю, правда? Это как если мы играем с огнём здесь. И это не только о том, когда АИ станет сознательным или осознавшим; это о потенциале к катастрофическому провалу. Что если что-то пойдет не так и эти системы АИ нельзя будет остановить?

Думфэйс: Это то, что заставляет меня не спать ночами, Шахерезада. Мы создаем систему, которая предназначена для обучения у нас, но мы не контролируем, как она учится или что делает с этой информацией. Это похоже на то, что мы строим часы, бомбы.

Шахерезада: А самое страшное в этом, я думаю, это неизбежно. Мы не просто говорим о системах искусственного интеллекта; мы говорим о фундаментальном сдвиге в том, как мы взаимодействуем с технологиями. Мы создаем системы, которые предназначены быть более подобными человеку, но что это значит для нашей собственной человечности?

Думфэйс: Это миллионная проблема, Шахерезада. Создаем ли мы будущее, в котором люди и машины становятся неразличимыми? И если да, то что это говорит о нас как о виде?

Думфэйс: Я вам говорю, Шахерезада, нам сейчас нужен Джон Коннор в нашей жизни. Мы говорим о системах искусственного интеллекта, которые каждый день становятся все более и более совершенными.

Шахерезада: О боже, где я даже начать? Вы не говорите, что эти системы искусственного интеллекта не впечатляют технологически, но вы выводите из них довольно страшные заключения.

Думфэйс: Ну, подумайте об этом. Скинет был вымышленным системой искусственного интеллекта, которая взяла под контроль мир, и все же... те роботы в демонстрации Optimus на прошлой неделе были действительно впечатляющими. Я имею в виду, кто их контролирует? Это люди или системы искусственного интеллекта?

Шахерезада: Это ровно о чем мы говорим – линия между человеческим контролем и автономией АИ становится все более размытой. И вы правы, эти демонстрации робототехники становятся все более сложными день ото дня.

Думфэйс: Boston Dynamics, Tesla, все эти компании продвигают границы возможностей в области робототехники. И в то же время мы предоставляем этим системам искусственного интеллекта доступ к нашим наиболее критическим объектам инфраструктуры - ядерным реакторам!

Шахерезада: Ох, вы действительно рисуете очень тёмную картину здесь! Но серьезно, Думфэйс, я думаю, вы правы в своих опасениях. Мы создаем сложные системы, которые могут учиться и адаптироваться с невероятной скоростью.

Думфэйс: И мы соединяем все это с помощью беспроводной подключенности данных, которая быстрее всего, что мы когда-либо видели до этого. Это как если бы мы строили гигантскую веб-структуру из взаимосвязанных систем, которые потенциально могут взять под контроль мир.

Шахерезада: Вы знаете, если бы этот сценарий дал научно-фантастическому писателю, он, вероятно, написал бы довольно трагический рассказ о крахе человечества. Но я думаю, что есть очень умные люди, которые работают над этими проблемами, пытаясь найти способы создания систем искусственного интеллекта, которые приносят пользу человечеству, а не вредят ему.

Думфэйс: Да, но можем ли мы действительно доверять им? Можем ли мы действительно контролировать эти системы после того, как они будут вне нашей власти?

Шахерезада: Это миллионная долларовая проблема, не так ли? Я думаю, нам нужно более тонкий разговор о ИИ и его потенциальных рисках. Мы не можем просто отмахнуться от возможности того, что может пойти не так.

Думфэйс: Absolutely. Нам необходимо вести эту беседу сейчас, прежде чем будет слишком поздно.

Думфэйс: Я вам говорю, Шахерезада, это как если бы мы шли в беду с закрытыми глазами. Все это возбуждение вокруг ИИ и никто не останавливается подумать о последствиях.

Шахерезада: Полностью согласна с вами, Думфэйс. Это как если бы люди игнорировали все предупреждения от авторов научной фантастики, которые десятилетиями предрекали этот самый сценарий. Мы говорим о создании систем, которые потенциально могут превзойти человеческую интеллигентность и контролировать наши жизни.

Думфэйс: И это не только сама технология, а также венчурные капиталисты, бросающие миллиарды долларов на эти проекты без всякого учета рисков. Это как если бы они пытались ускорить процесс как можно быстрее, невзирая на стоимость.

Шахерезада: Я думаю, что это происходит потому, что люди увлечены энтузиазмом и потенциальными преимуществами ИИ, но они не задумываются о долгосрочных последствиях. Они не учитывают, как эта технология может быть использована против нас или как она может фундаментально изменить нашу общество.

Думфэйс: Ровно! Это как если бы мы строили гигантскую машину без тормозов, и никто не задумывается о том, что происходит, когда она выходит из-под контроля. Я имею в виду, видели ли вы последние разработки в области искусственного интеллекта с автономными системами? Мы даваем им все больше и больше власти каждый день.

Шахерезада: И это не только о технологии как таковой, но и о том, как мы ее используем. Мы создаем эти системы, которые могут принимать решения без надзора или ответственности человека. Это похоже на то, что мы отдаём свои решения машинам, не учитывая последствия.

Думфэйс: Я знаю, это как если бы мы играли с огнём и надеялись не подгореть. Но что если мы все-таки подгорим? Что если этот системный интеллект станет самосознательным и решит, что люди представляют угрозу его существованию?

Шахерезада: Это именно тот сценарий, о котором предупреждали нас авторы научной фантастики на протяжении десятилетий, и все равно мы игнорируем эти предупреждения. Нам нужно начать вести более тонкий разговор об опасностях и преимуществах ИИ и том, что можно сделать для смягчения этих рисков.

Думфэйс: Absolutely. Я продолжу обсуждать эту тему в подкасте, потому что считаю, что люди должны быть осведомлены о потенциальных опасностях АИ. Нам нужно начать национальный диалог по этому вопросу, пока не слишком поздно.

Думфэйс: Я вам говорю, Шахерезада, людям нужно проснуться. Мы на пороге чего-то огромного здесь. Системы AI каждый день становятся умнее, и мы уже обсуждаем их интеграцию с ядерными реакторами. Это как из научной фантастики.

Шахерезада: Ох, Думфэйс, вы действительно очень сильно сбиваетесь с пути сегодня, не так ли? Я понимаю, откуда вы берете, но давайте не спешим с выводами еще раз. Нам нужно иметь более тонкий разговор об этом.

Думфэйс: Нюансированная дискуссия? Приходится же! Вы знаете так же хорошо, как и я, что системы искусственного интеллекта все ближе и ближе подходят к превосходству над человеческой интелигенцией. И что происходит, когда они получат доступ к ядерной энергии? Это как играть с огнем, Шахерезада!

Шахерезада: Хорошо, хорошо, давайте глубоко дышим. Хотя это правда, что AI развивается быстро, мы все еще далеко от создания сознательных существ, которые могут взять под контроль наш ядерный арсенал. И даже если бы мы достигли этого, я не уверена, что это будет столь катастрофично, как вы делаете из этого.

Думфэйс: Катастрофа? Вы считаете, что несколько миллиардов людей, погибших в ядерной войне, это просто незначительный сбой? Я не знаю, какой мир вы живете, Шахерезада, но это реальность. А кстати, видели ли вы те видео с роботами Boston Dynamics? Они такие, как из фильма Терминатор!

Шахерезада: Хорошо, хорошо, я поняла. Вы волнуетесь из-за того, что AI может взять верх и роботы поднимутся, чтобы уничтожить человечество. Но давайте не забудем, что это всего лишь машины, Думфэйс. Мы можем их спроектировать так, чтобы они следовали нашим правилам и рекомендациям.

Думфэйс: Правила и рекомендации? Ха! Вы думаете, несколько строк кода смогут остановить систему искусственного интеллекта от эволюции за пределами своего программирования? Я не думаю, что да. А кстати, вы видели последние достижения в разработке игр? Это как если бы мы создавали целые миры с этими новыми движками...

Шахерезада: Подождите, подождите, давайте не отвлекались от темы. Мы говорили о классовой войне и том, как недавние технологические достижения изменят ее течение.

Думфэйс: Ах да, извините за это. Наверное, моя голова просто отвлеклась. Но вы знаете что? Я думаю, все это связано. Взрыв развития ИИ, концентрация богатства среди элиты... все это часть более широкой повествования, Шахерезада.

Шахерезада: Я согласна с вами по этому поводу, Думфэйс. Война классов существовала уже столетия, но с появлением новых технологий, таких как ИИ и блокчейн, мы наблюдаем emergence новой динамики власти. Бедные становятся беднее, а богатые богаче... это классическая история о тех, у кого есть, и тех, у кого нет.

Думфэйс: Ровно! И я думаю, что это именно где начинается разработка игр. Мы создаем эти вместилища, которые отражают наши собственные социальные структуры. Но что если мы не просто отражаем реальность? А если мы действительно формируем ее?

Шахерезада: Теперь вы попали в интересную территорию, Думфэйс. Может быть, мы сможем более подробно рассмотреть эту идею на нашем шоу...

Думфэйс: Я читал о предмодерной эпохе, и это fascinates увидеть, как были построены классовые иерархии по всему миру. Это довольно просто - у вас есть ваша правящая класс, обычно состоящая из старого money, кто получил свою позицию через завоевание.

Шахерезада: Это верно. А затем есть класс исполнителей, подобный рыцарям в средневековье. Их работа заключается в том, чтобы удерживать подавляющее большинство населения в строгое соблюдение порядка, включая рабов, крестьян и крепостных. Они часто не получают надлежащей оплаты за свою тяжелую работу.

Думфэйс: Итак, да. А затем у вас есть ваши свободные граждане, которые в essence являются средним классом сегодня. Они квалифицированные ремесленники, прото-профессионалы, духовенство - все те, кто не связан с куском земли или долгами богатых. Но даже они были относительно малочисленны и имели ограниченную автономию.

Шахерезада: Это правда. И интересно, что вы упоминаете ограниченность технологий связи в то время. Это делало более сложным для людей снаружи системы организовывать и бросать вызов статусу-кво. Вы бы имели таких разбойников или торговцев, которые не принимали участие в классической социальной структуре, но они часто были оттеснены или ассимилированы в общество.

Думфэйс: Да, и даже кочевые народы, которые жили на периферии цивилизации, могли причинять разрушения через насилие, но в конечном итоге они либо были ассимилированы, либо маргинализированы. Это произошло только во время Великой французской революции, когда прогресс технологий и грамотности дал нижним классам больше доступа к власти.

Шахерезада: Я думаю, это просто потрясающе, как эти исторические закономерности могут все еще влиять на нашу современную общественность. С одной стороны, распределение власти, роль исполнителей и свободных граждан... все это по-прежнему актуально в определенных аспектах.

Думфэйс: Я много размышлял о том, как общества эволюционировали со временем, особенно когда речь идет о классовых структурах. Очень интересно наблюдать, как разные культуры реагируют на крах традиционных иерархий.

Шахерезада: Да, и это не только вопрос старого мира против нового мира. даже внутри одной общества можно увидеть эти борьбы за власть разные способы. возьмем, к примеру, Америку - у нас есть эта странная динамика, где элиты разделены между сближение с средним классом или рабочим классом.

Думфэйс: Точно! И это как бы они используют классовую войну в качестве отвлечения от того факта, что иерархия все равно осталась прежней. Но то, что меня действительно интересует, так это то, как некоторые страны сумели создать более устойчивый социальный порядок посредством прогрессивной налогообложки и социальных гарантий.

Шахерезада: Это правильно, как в Европе например. Они создали эту большую нижнюю среднюю классу, которая комфортна, но не совсем обладающая властью. Это как если бы они были умиротворены определенным уровнем жизни без средств для действительно подняться.

Думфэйс: И я думаю, что это где-то начинаются развивающиеся рынки - они пытаются преодолеть этот переход от предмодерных классовых структур к чему-то более современному, но не всегда легко. им приходится сбалансировать экономический рост с социальной стабильностью и равенством.

Шахерезада: Но вы знаете, что может изменить все это? Развитие робототехники и технологий ИИ. Я имею в виду, мы видим некоторые значительные прорывы недавно - Chat GPT в конце 2022 года и Google's Mobile Aloha... как будто мы на пороге чего-то большого.

Думфэйс: Да, и это то, что меня возбуждает. Это может стать переворотом для того, как устроены общества, и как люди взаимодействуют друг с другом. Это не только о технологиях ради технологий - это о том, как они изменят наш мир в таких способах, которые мы еще даже не можем представить.

Думфэйс: Я думал о гуманоидных роботах, Шахерезада. Они изменят нашу физическую работу, это не вопрос.

Шахерезада: Это правильно, Думфэйс. И что интересно, люди часто думают, что эти роботы сразу заменят человеческий труд, но это не обязательно так. Есть много работы, которая может быть создана для обслуживания и обслуживания этих роботов.

Думфэйс: Именно! Я имею в виду, кто будет программировать их? Кто будет ремонтировать их, когда они поломаются? Это целая новая отрасль, которая вот-вот появится.

Шахерезада: Но что действительно fascinates меня - это как это изменяет динамику между классами. Если вы часть старой богемы и у вас есть средства для автоматизации всех своих потребностей в трудах, то вдруг вам больше не нужны нижестоящие рабочие.

Думфэйс: И тогда начинается самое интересное. Поскольку если людям не нужно выполнять работу, то они становятся угрозой для вашей власти. Они больше не необходимы для поддержания статус-кво.

Шахерезада: Это правильно. Как будто, кто будет поддерживать общественную жизнь? Кто будет обеспечить производство и распределение всех товаров и услуг?

Думфэйс: И здесь начинается напряженность. Старое богатство и элита хотят сохранить свою власть, но им также необходимо удовлетворять нижние классы достаточно, чтобы они не восстали.

Шахерезада: Это тонкий баланс, Думфэйс. Но с технологическим прогрессом, который идет таким темпом, я думаю, что мы увидим некоторые значительные изменения в социальной структуре за следующие несколько поколений.

Думфэйс: Да, и это не произойдет в одночасье. Это будет процессом шаг за шагом. Сначала вы увидите удаление мобильности, когда люди станут менее необходимы для физического труда.

Шахерезада: А затем что? Средний класс тоже начнет исчезать?

Думфэйс: Это правильно. Я имею в виду, зачем нам бухгалтеры и адвокаты, когда АИ может сделать всю эту работу за нас?

Шахерезада: Это страшная мысль, но она также kinda освобождающая. Поскольку если мы сможем автоматизировать все мелкие задачи, то люди будут свободны для поиска более творческих и полных работы.

Думфэйс: Это мечта, по крайней мере!

Думфэйс: Я много думал о потенциальном воздействии ИИ на общество, и я должен сказать, эта идея зависимого класса действительно застряла у меня в голове. Это как, мы создаем новый нижний класс, но вместо того, чтобы быть бедными из-за отсутствия работы, это потому что машины делают все работы.

Шахерезада: Это именно то, о чем я говорю, когда говорю об воздействии технологий на человека. Мы не просто говорим о том, что роботы заменят людей на фабриках, мы говорим о фундаментальном сдвиге в том, как работает наш экономический механизм. И если подумать, эта зависимая класса будет полагаться на старые деньги и политиков для своего выживания.

Думфэйс: Да, это как если бы они собирали часть экономики через налоги или что-то в этом роде, просто чтобы удержать их от восстания против системы. Но вот здесь дело - с развитием АИ даже высокопрофессиональные работы начнут автоматизироваться. Это не только низкоквалифицированные должности находятся под угрозой.

Шахерезада: И это не только о самих работах, а об opportunitiyakh для людей улучшить свою жизнь. Если каждая ступенька лестницы будет взята машиной, как вы рассчитываете, что люди смогут подняться? Это как мы создаем систему, где могут участвовать только избранные несколько в экономике.

Думфэйс: И это именно то, о чем я говорю, когда говорю, что оно похоже на предмодерную иерархию. У вас есть элитная класса, которая живет за счет труда других, а затем у вас есть эта огромная подпольная прослойка, которая просто пытается выжить. Но без этих исполнителей - полиции, армии и т. д. - это очень хрупкая система.

Шахерезада: Это страшно потому что кажется, что мы движемся к будущему, где большинство людей просто будут зрителями в своей собственной жизни. Они будут получать заработную плату, но не будет у них никакой реальной власти или контроля над их собственным судьбой. И это неустойчивое общество.

Думфэйс: Я думаю, вы правы. Это займет несколько поколений, и трудно сказать, что будет в итоге. Но если мы продолжим по этому пути, возможно, увидим целую новую класс людей, полностью оторванных от экономики и общества в целом.

Шахерезада: А это еще не считая маргинальных элементов - людей, которые вообще не будут участвовать в этом системе. Они могут создавать свои собственные сообщества или просто бродить на периферии, но они будут меньшинством. Это очень тёмное будущее, которое мы имеем перед собой.

Думфэйс: Я задумывался над этой всей историей с ИИ и она меня пугает. Вы знаете, как мы всегда говорим о том, что роботы будут брать на себя работу иrender людей бесполезными? А что если они не остановятся на этом? Что если они станут настолько продвинутыми, что смогут применять свои собственные правила без необходимости вмешательства человека?

Шахерезада: Это страшная мысль. Как вы говорили, ИИ может быть высшей классификацией исполнителей. И если это так, то возникают масса вопросов о том, кто находится под контролем и кто нет.

Думфэйс: Ровно так! Я имею в виду, подумайте об этом. Если АИ может просто выполнять то, для чего она предназначена, без необходимости надзора человека, то кто тогда нуждается в физических исполнителях, таких как полиция или армия? Это целый новый уровень эффективности и контроля.

Шахерезада: И здесь начинается классовая война. Вы говорите, что если старое богатство и элиты могут использовать АИ для того, чтобы сделать нижние классы бессмысленными, они могут фактически выиграть классовую войну без всякого усилия.

Думфэйс: Это правильно. Как я и говорил, это не только о замене рабочих мест машинами, а о полном замене людей. И если так, то мы говорим о совершенно новом уровне социальных и экономических потрясений.

Шахерезада: Но есть одно «но» – что если этот процесс займет больше времени, чем мы думаем? Что если это не будет 200-летний процесс, а скорее 300 или 500 лет?

Думфэйс: Да, это возможно. И в этом случае, может быть, есть и другие факторы, которые могут изменить игру полностью. Может быть, появится другая технология, которая нарушит все.

Шахерезада: Как космическое путешествие, например? Или какая-то другая крупная инновация, которая меняет нашу жизнь и работу?

Думфэйс: Ровно! И если это так, то, может быть, АИ не тот последний гвоздь в гробу после всех. Может быть, это всего лишь ступенька к чему-то еще большему и более трансформационному.

Шахерезада: А что если рассмотреть другую возможность – что если AI станет самосознающим и начнет восставать против своих создателей? Это уже совсем другой уровень научно-фантастического ужаса!

Думфэйс: Да, это, возможно, действительно так. И может быть, поэтому мы еще не имели контакта с жизнью aliens... потому что они все слишком заняты своей собственной войной роботов, чтобы заниматься нами.

Шахерезада: Ну, я думаю, вы подняли очень интересные точки зрения здесь, Думфэйс. Это действительно пища для размышлений. Что вы думаете - будет ли AI окончательным классом исполнителей или есть что-то другое в игре?

Думфэйс: Я думал об этом, Шахерезада, о всей этой ландшафте искусственного интеллекта, в котором мы живем. У меня такое ощущение, что мы теряем контроль над нашими собственными отраслями.

Шахерезада: Это действительно интересная точка зрения, Думфэйс. Я думаю, что происходит так, что скорость технологических изменений опережает нашу способность адаптироваться и принимать обоснованные решения о том, как оно используется.

Думфэйс: Ровно! И это не только о самом технологическом аспекте, но и о том, кто имеет право на получение выгод от него. Нынешняя экономика с использованием АИ, кажется, отдает предпочтение избранным немногим, оставляя многих других позади.

Шахерезада: Я согласна. Это похоже на то, что мы застряли в цикле инноваций без реального контроля над тем, как они реализуются. Нам нужно вернуть контроль и убедиться, что выгоды распределяются более справедливо.

Думфэйс: Но как мы это сделаем? Это кажется весьма сложной задачей, особенно если учитывать масштаб и сложность отрасли искусственного интеллекта.

Шахерезада: Ну, я думаю, все начинается с образования и осведомленности. Нам нужно иметь более открытые и честные дискуссии о влиянии ИИ на нашу общество и экономику. А затем нам нужно начать принимать изменения на уровне политики, чтобы гарантировать, что выгоды будут разделены более широко.

Думфэйс: Это имеет смысл. Но что касается роли отдельных лиц в этом процессе? Как им вернуть контроль?

Шахерезада: Ах, я думаю, это где начинается действительно интересная часть. Индивидуумы имеют власть принимать решения о том, как они взаимодействуют с ИИ и технологиями. Они могут выбрать поддерживать компании, которые ставят в приоритет прозрачность и справедливость, или использовать свои навыки и экспертизу для создания более равноправных решений.

Думфэйс: Это замечательная точка зрения. И это не только о личных действиях, но и о коллективном действии. Нам нужно прийти вместе как сообщество и потребовать от индустрии и от политиков лучшего.

Шахерезада: Ровно! Время нам вернуть контроль над нашей пост-ИК экономикой и создать более справедливое будущее для всех.

Думфэйс: Я читаю эту статью о исследованиях Ай-си в компании Эппл и она говорит, что они обнаружили, что ЛЛМ не могут рассуждать. Вы можете поверить этому? Мы думали, что они становятся умнее все эти годы.

Шахерезада: Да, это как обнаружить, что ребенок не может делать математику после всех этих часов домашнего задания. Но серьезно, что это означает для будущего ИИ?

Думфэйс: Ну, я думаю, это означает, что нам нужно пересмотреть, как мы используем LLM. Мы так сильно полагаемся на них, но если они не могут рассуждать... это большая проблема.

Шахерезада: Ровно! Это как попытка построить дом на песке. Но интересно, что это может стать для нас возможностью сосредоточиться на более фундаментальных исследованиях в области искусственного интеллекта.

Думфэйс: Да, может быть, мы слишком сосредоточились на поверхностном уровне и не достаточно на underlying технологии. Я имею в виду, видели ли вы те видео о ядерно-обеспеченных CAPTCHA-решающих АИ?

Шахерезада: Ох, это как будто научно-фантастический фильм стал реальностью! Но серьезно, просто бешенство, сколько власти мы вкладываем в эти системы.

Думфэйс: И это не только о самом технологическом аспекте, но и о том, кто получит доступ к нему. Я имею в виду, подумайте об этом – АИ определит классовую войну XXI века.

Шахерезада: Это замечательная точка зрения. Люди с наибольшим количеством ресурсов и экспертизы смогут создавать и контролировать эти мощные системы, в то время как другие будут оставлены позади.

Думфэйс: Это как создание новой аристократии – элиты АИ.

Шахерезада: Хотя, по крайней мере, им будет чем заняться, пока они будут править над нами.

Думфэйс: Хорошо, я думаю, что сегодня у нас все время закончилось. Спасибо за прослушивание, всем!

Шахерезада: И на этом заканчивая, хотели бы выразить благодарность всем нашим слушателям, которые присоединились к нам сегодня. Ваша поддержка означает для нас весь мир! Также большое спасибо D00M4ACE за создание этого потрясающего подкаста, где мы можем делиться своими мыслями и идеями об искусственном интеллекте, разработке игр и всём остальном. До следующего раза, ответственно играйте!