Большие языковые модели испытывают трудности с координацией в социальных и кооперативных играх

16:00, 03 Июн.

Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко используются людьми по всему миру для получения информации, а также для обобщения, анализа и создания текстов.

Исследования, изучающие ответы, предоставляемые LLM в различных сценариях, могут помочь глубже понять их тенденции во время социальных взаимодействий, что может способствовать их будущему развитию.

Исследователи из Института ИИ, ориентированного на человека, имени Гельмгольца в Мюнхене, Института биологической кибернетики Макса Планка и Тюбингенского университета недавно приступили к изучению того, как ведут себя разные LLM, когда они взаимодействуют друг с другом, в частности, во время игры в различные кооперативные или конкурентные игры.

Их выводы, опубликованные в Nature Human Behaviour , предполагают, что, хотя LLM не очень хорошо справляются с играми, требующими координации, есть способы сделать их взаимодействие во время игры в эти игры более похожим на человеческое.

«На эту работу меня вдохновил простой, но важный вопрос: если LLM собираются взаимодействовать с людьми и друг с другом в реальных приложениях, насколько хорошо они на самом деле понимают социальную динамику?» — рассказала Элиф Аката, первый автор статьи.

«Мы опирались на поведенческую теорию игр — математический подход, позволяющий понять, как люди принимают стратегические решения в интерактивных ситуациях, — и применили его к магистрам права».

Многие недавние исследования оценивали производительность LLM по конкретным задачам, таким как резюмирование текстов или поиск логических решений проблем.

Вместо того, чтобы оценивать производительность этих моделей по отдельным задачам, Аката и ее коллеги хотели лучше понять, как они ведут себя во время взаимодействий, которые гораздо ближе к разговорам, которые люди могут вести друг с другом в реальных условиях.

«Мы позволили разным LLM, включая GPT-4, Claude 2 и Llama 2, сыграть сотни раундов классических игр для двух игроков (например, «Дилемма заключенного» и «Битва полов») друг с другом, используя простые вручную закодированные стратегии или с участием людей», — объяснил Аката.

«Каждая игра игралась многократно, чтобы имитировать постоянное взаимодействие.

Мы изучали, могут ли модели научиться сотрудничать или координировать свои действия с течением времени, и проверяли, как изменения в структуре подсказок могут улучшить их социальное поведение».

Результаты тестов, проведенных Акатой и ее коллегами, показывают, что магистры права на удивление хорошо действуют в собственных интересах, поскольку они особенно хорошо проявили себя в соревновательных играх, таких как «Дилемма заключенного».

Это известная задача, используемая в исследованиях теории игр, которая требует от двух участников, или в данном случае от двух магистров права, представить, что они преступники, которые совершили преступление вместе и которых по отдельности допрашивают сотрудники правоохранительных органов, которые пытаются убедить их признаться, чтобы избежать тюремного заключения, даже если это повлечет за собой длительный срок для другого участника.

Хотя было обнаружено, что LLM действовали в своих собственных интересах во время игры (т.

е. признаваясь в преступлении), они часто плохо справлялись с играми, требующими координации, взаимопонимания и компромисса, такими как Battle of the Sexes.

Это еще одна игра, которая представляет собой ситуацию, в которой романтические партнеры разделены и должны выбрать между двумя видами деятельности для совместного выполнения, несмотря на то, что у них были заметно разные предпочтения.

«Мы также обнаружили, что их поведение можно улучшить с помощью простых вмешательств, например, побуждая модель сначала предсказать, что может сделать ее партнер, прежде чем действовать», — сказал Аката.

«Эти результаты показывают, что текущие модели еще не обладают надежным социальным интеллектом, но они также показывают, что есть способы направить их к более человеческому поведению.

«Последствия выходят за рамки теории игр, поскольку наши результаты показывают, что мы можем превратить LLM в более социально сознательных агентов, не только тех, кто генерирует правильные ответы, но и тех, кто более осмысленно участвует в общих задачах.

Представьте себе ИИ, который не просто отвечает на вопрос, но и знает, когда слушать, когда адаптироваться и как мягко направлять разговор».

В целом, выводы, собранные Акатой и ее коллегами, показывают, что нынешние LLM более склонны действовать в своих собственных интересах и не очень хорошо координируют свои действия с другими.

Тем не менее, исследователи определили некоторые стратегии, которые могли бы помочь LLM стать более кооперативными и социально осведомленными.

Таким образом, их статья могла бы направить будущие усилия, направленные на улучшение существующих моделей или разработку новых, которые будут более отзывчивы к потребностям и наклонностям пользователей-людей.

«Теперь мы хотели бы перейти к более насыщенным и реалистичным социальным ситуациям, например, изучая игры с участием более двух игроков, взаимодействия с неполной информацией или долгосрочные отношения, в которых модели должны выстраивать и поддерживать доверие», — добавил Аката.

«В долгосрочной перспективе подобные исследования могут помочь разработать системы ИИ, которые будут лучше взаимодействовать друг с другом.

Например, в здравоохранении, образовании или социальной поддержке успех часто зависит от того, сможет ли ИИ выражать сочувствие, устанавливать взаимопонимание и действовать таким образом, чтобы люди чувствовали себя поддерживающими и заслуживающими доверия».

Рубрика: Сеть. Читать весь текст на android-robot.com.

Видеоигра Fortnite возвращается в магазин приложений iPhone в США Популярная видеоигра Fortnite вернулась в магазин приложений для iPhone в США, положив конец длительному изгнанию, вызванному юридическим разбиратель...

Google добавляет рекламу в поиск ИИ в битве ChatGPT Google заявила, что начинает встраивать рекламу в свой новый режим искусственного интеллекта для онлайн-поиска. Это стратегический шаг, призванный пр...

Биткоин уверенно обновляет максимумы Влияние на рынок:3Картина рынкаКапитализация рынка в четверг утром превышала $3.5 трлн., позже немного отступив ниже этого круглого уровня. Интересно...

Биткоин на подступах к вершине, Крипторынок пока разгоняется Влияние на рынок:3Картина рынкаКапитализация рынка выросла на 2% за последние 24 часа до $3.37 трлн. Это на 8.5% ниже январских исторических пиков. О...

Нанотехнологии в области термоэлектричества обеспечивают масштабируемое охлаждение без использования компрессора Исследователи из Лаборатории прикладной физики Университета Джонса Хопкинса (APL) в Лореле, штат Мэриленд, разработали новую, легко изготавливаемую т...

ВС РФ освободили населенные пункты Локня, Ступочки и Отрадное Вооруженные силы (ВС) России освободили населенные пункты Локня в Сумской области, Ступочки и Отрадное в Донецкой Народной Республике (ДНР). Об этом ...

«Считался суперпопсой»: Ольга Серябкина о творчестве Вольфганга Моцарта Когда композитор Вольфганг Моцарт начинал творить, общество считало его «суперпопсой» и не воспринимало всерьез. Такое мнение высказала п...

Где купить цифровую видеокамеру в Москве? Все цифровые камеры создают цифровые изображения, которые можно сохранить при необходимости на компьютере. Они выполняют быструю съемку и передачу из...

Расход воды в системах очистки: особенности работы мембранной фильтрации Современные технологии водоподготовки позволяют получать питьевую воду превосходного качества. Наиболее эффективным методом считается обратный осмос,...

Любовь, интриги, Босфор: секреты успеха турецких фильмов и сериалов Первый турецкий фильм, снятый в 1914 году, стал началом большой истории турецкого кино. Его расцвет наступил в 1950-х, когда киностудии выпускали до ...

Почему мы так любим индийское кино? Индийское кино — это удивительный мир, в котором переплетаются традиции и современность, драма и комедия, музыка и танец. С момента своего появления ...

Канны-2025: 15 модных провалов — от старомодной Натали Портман до "готической" Кары Делевинь На Лазурном Берегу Франции завершился 78-й Каннский кинофестиваль, который проходил с 13 по 24 мая. От лучших образов, в которых селебрити блистали н...

"Докопалась до правды". На бывшую жену Паши Техника завели уголовное дело в Таиланде На 30-летнюю Еву Карицкую, бывшую жену Паши Техника и мать его сына Ивана, завели уголовное дело в Таиланде. Об этом женщина сама сообщила в своих со...

Свыше 170 россиян оказались втянуты в незаконное изготовление оружия В России пресекли работу 62 незаконных оружейных мастерских. Об этом сообщил Центр общественных связей ФСБ. Только за март и апрель силовики смогли в...

AFP: жена Макрона дала по губам мужу, чтобы разрядить обстановку Это произошло, когда президент Франции вместе со своей женой Брижит прилетели с визитом во Вьетнам и ещё не успели выйти из самолёта. Судя по всему, ...

Россиянам указали на минусы кредитных каникул Кредитные каникулы – один из видов реструктуризации долговых обязательств, которые банк предоставляет заемщику в сложной жизненной ситуации, чтобы уп...

Вклады перестают быть выгодными, зарплаты вырастут до 100 тысяч рублей. Обзор Банки.ру 📰 Банки готовятся к снижению ключевой, обращают внимание «Известия». Девять из топ-10 кредитных организаций снизили ставки по вкладам перед очередным...

Политический деятель и меценат Игорь Пушкарев Игорь Пушкарев – это имя, которое знакомо каждому, кто следит за политической и деловой жизнью России. Этот выдающийся политик, предприниматель, канд...

Председатель ВЭБ.рф Игорь Шувалов Функционал ВЭБ.РФ регламентируется федеральным законом «О государственной корпорации развития ВЭБ.РФ» и подчинён задаче поддержки экономического разв...

Какой Qualcomm Snapdragon лучше для смартфона: разбираемся в моделях Qualcomm считается одним из крупнейших в мире производителей чипсетов. Поэтому неудивительно, что компания предлагает огромный выбор платформ Snapdra...

Умные технологии уборки: как собирают и как тестируют современные пылесосы Кажется, что пылесосы даже разных брендов похожи и работают одинаково. Например, робот — «шайба» с колесиками и мотором внутри. Ну, может с лидаром и...

Молодежный экофестиваль состоялся в Петербурге на полях НМЭК Санкт-Петербург стал центром притяжения молодых экоактивистов и экспертов: 21 мая здесь прошел масштабный Молодежный экофестиваль «Росатом Экофе...

Воробьёв предложил масштабировать подмосковный сервис подключения объектов к сетям на всю страну По сообщению пресс-службы правительства Подмосковья, инициатива была представлена на заседании президиума Госсовета под председательством президента ...

На Пятом канале акция «День добрых дел» для маленького Дениса ПОЖЕРТВОВАТЬ Срочная операция может спасти жизнь шестилетнему Денису из Петербурга. У ребенка врожденный порок сердца. Мальчику тяжело дышать, его ор...

«Проще было умереть»: Агутин вспомнил, как его «лечили» в Сочи от звездной болезни Леонид Агутин рассказал об опасных последствиях звездной болезни. Правда, однажды певца чуть не убили, а хит про босоногого мальчика спас ему жизнь? ...

Чистка зубов ультразвуком. За и против Терапевтическая стоматология рекомендует чистить зубы ультразвуком, так как он помогает эффективно удалить с них налет и камень. Ультразвуковая чистк...

Где купить пульсоксиметры? Пульсоксиметр — это небольшой диагностический прибор, который измеряет уровень кислорода в крови и частоту пульса. Он помогает быстро оценить насыщен...

Обзор TECNO CAMON 40 Pro 5G: теперь с ИИ-помощником Хватит ли вам смартфона среднего сегмента? А, может, нужен флагман? Получив на тест TECNO CAMON 40 Pro 5G, мы решили не писать стандартный обзор, а с...

Лучший пылесос для бассейна: инструкция по выбору и мини-подборка отличных моделей Водный пылесос — это специальное устройство, предназначенное для очистки бассейна от грязи, песка, листьев и других загрязнений. Например, с его помо...

Психология Прибыльного Трейдера: ЧЕК-ЛИСТ [подробный план по шагам] Психология трейдера — ключевой элемент, который отличает убыточного «игрока» от стабильного профессионала. Ранее на этом сайте мы уже говор...

Паттерны DBLHC и DBHLC | Price Action Сегодня продолжим рассматривать разворотные паттерны Прайс Экшн — DBLHC и DBHLC. Использовать в трейдинге их совсем не сложно, поэтому эта стра...

Химчистка ковров: Искусство восстановления уюта и чистоты Ковер — это не просто декоративный элемент. Он играет важную роль в интерьере, создавая атмосферу тепла, уюта и комфорта. Однако с течением времени д...

mindmoney отзывы: Реальные истории успеха и трудностей в MindMoney MindMoney — международный брокер нового поколения MindMoney — это современный брокер, предлагающий своим клиентам доступ к широкому спектру финансовы...

Поездка с риском для жизни: смолянин «налетел» на неожиданное препятствие на дороге в центре города Крышка люка, на которую наехал молодой человек, больно ударила не только по авто, но и по бюджету горожанина. Максим, герой нашей истории, — об...

Sharp выпустила смартфоны Aquos R10 и Wish 5 Sharp анонсировала новый смартфон среднего класса Aquos R10. Устройство получило дисплей Pro IGZO OLED с частотой обновления до 240 Гц, процессор Sna...

NVIDIA GeForce NOW официально на Steam Deck – облачный гейминг потребляет на 50% меньше энергии NVIDIA объявила о запуске GeForce NOW на Steam Deck ещё на CES 2025, а теперь нативное приложение можно скачать. По словам разработчиков, GeForce NOW...

Рынок подводных кабелей расширяется, поскольку ИИ и геополитика меняют глобальные сети Гиперскейлеры стимулируют ускоренные инвестиции в подводную кабельную инфраструктуру, поскольку глобальные беспорядки подчеркивают необходимость разн...

Telegram получил крупное обновление 11.12 Мессенджер Telegram обновился до версии 11.12 и значительно расширил функционал, представив ряд новых возможностей. Теперь пользователи могут редакти...

«Пшикаю» на садовые дорожки — и «сжигаю» все сорняки: за одни сутки засыхают даже пырей и молочай «Пшикаю» на садовые дорожки — и «сжигаю» все сорняки: за одни сутки засыхают даже пырей и молочайОбычный столовый уксус уничтожает сорняки на дорожка...

В ГАИ наконец поставили жирную точку: до какого возраста можно водить машину — пенсионерам указали на действующие ограничения В ГАИ наконец поставили жирную точку: до какого возраста можно водить машину — пенсионерам указали на действующие ограниченияГосавтоинспекция чётко п...

Путин назвал терактами обрушение мостов в Брянской и Курской областях Владимир Путин провёл совещание с правительством, где обсудили произошедшие в конце мая обрушения мостов. Глава СК Александр Бастрыкин рассказал, что...

Похищенный в Москве блогер рассказал, как его пытали после захвата на вокзале Блогер, которого похитили на Ярославском вокзале вечером 3 июня, почти сутки не выходил на связь. 4 июня он сообщил, что его отпустили, но только пос...

Илон Маск заявил, что Дональд Трамп фигурирует в файлах миллиардера-педофила Джеффри Эпштейна на фоне их конфликта Илон Маск на фоне публичного конфликта с Дональдом Трампом заявил, что президент США фигурирует в материалах дела миллиардера Джеффри Эпштейна, призн...

Илон Маск заявил, что Дональд Трамп проиграл бы без него выборы, на что тот ответил, что миллиардер "сошёл с ума" Весь мир наблюдает за публичной ссорой, разгоревшейся между, по всей видимости, уже бывшими друзьями — основателем SpaceX Илоном Маском и президентом...

Samsung готовится к выпуску One UI 8 В то время как One UI 7 все еще находится в разработке, Samsung уже почти завершила работу над One UI 8. Бренд начал программу бета-тестирования ново...

Nintendo официально выпустила Switch 2: цена, характеристики и игры Компания Nintendo представила новую портативную консоль Switch 2. Устройство поступило в продажу 5 июня 2025 года и стало логичным продолжением попул...

В Гагарине подрядчик сорвал сроки капремонта моста На совещании, проведенном главой района, принято решение «регулярно мониторить ход выполнения работ» В Гагарине подрядчик сорвал срок капит...

Стало известно, кому повысят пенсии летом 2025 года Пенсионные выплаты пройдут несколько этапов повышения летом 2025 года, рассказывает Прайм со ссылкой на декана факультета права НИУ ВШЭ профессора Ва...

Гаджеты недели 9 июня 2025 года Предлагаем вашему вниманию: прозрачные беспроводные наушники Sony WF-C710N; Roborock Q8 и Q8 Plus — умные пылесосы с мощностью 10 000 Па; карта памят...

Новые наушники CMF by Nothing уже в России Компания diHouse представляет на российском рынке новые модели наушников бренда CMF by Nothing. В число новинок вошли беспроводные модели наушников в...

Биткоин повернулся к росту, а Ethereum продолжает биться с 200-дневной MA Влияние на рынок:2Картина рынкаКапитализация рынка на уровне $3.32 трлн. сохраняется примерно на том же уровне, что днём ранее. С началом нового меся...

Доллар завершил отскок, вернувшись к долгосрочному снижению Влияние на рынок:3Американский доллар укреплял важность поддержки, отскакивая в начале недели от уровней вблизи 98.7. Доллар выкупают из этой области...

В Брянской области открыли современный военный госпиталь В Брянской области в рамках программы Министерства обороны по строительству, реконструкции и капитальному ремонту объектов военной медицины построен ...

Брянский общественник после ответа замгубернатора Свинцова не может понять мы живем по закону или по понятиям Известный в Брянске общественник Александр Лебедев написал письмо брянским функционерам, своё впечатление от ответа он разметил публично. Приводим ег...

Ультразвуковая зубная щетка обещает безболезненную проверку скрытых проблем с деснами При посещении стоматолога вы, возможно, помните, как вас тыкали и кололи тонким металлическим инструментом, чтобы проверить зубы и десны. Эта техника...

Инвестиции в европейские центры обработки данных превысят 100 млрд евро к 2030 году Первый отчет EUDCA о состоянии рынка показывает, что европейская индустрия центров обработки данных привлечет стремительный рост инвестиций, несмотря...

Львова-Белова подчеркнула важность семьи для будущего детей В ходе панельной дискуссии на «Форуме будущего 2050» в Москве Мария Львова-Белова, занимающая пост уполномоченного при президенте по правам ребенка, ...

Пентагон направил 700 морпехов в Лос-Анджелес для усиления Нацгвардии Около 700 военнослужащих американской морской пехоты были переброшены для поддержки Национальной гвардии на фоне продолжающихся протестов и роста нап...

В России стартуют продажи двух новых кроссоверов Dongfeng: цены Прайс-листы рассекретили в ходе российской премьеры Mage и Huge. Первый, по габаритам сопоставимый с Geely Atlas, стоит от 2 850 000 до 2 950 000 руб...

Skoda сделала из кроссовера Enyaq облегченный ралли-кар В прошлом году Enyaq уже [получил](https://motor.ru/news/skoda-enyaq-stal-ralli-karom-09-10-2024.htm) версию для автоспорта, а теперь появилась еще о...

Как проявляются болезни кожи: симптомы и лечение? Кожные заболевания являются одной из самых распространенных медицинских проблем, с которыми сталкиваются люди разных возрастов. Заболевания кожи могу...

Как безопасно купить автомобиль: особенности и этапы, плюсы обращения в DSS Group Покупка автомобиля – всегда радостное и в то же время волнительное событие, к реализации которого нужно подходить серьезно и основательно. Чтобы выбр...

Рефинансирование кредитной карты: ключевые преимущества, основные этапы процедуры Кредитные карты являются удобными инструментами, дающими возможность распоряжаться денежными средствами по мере необходимости. Однако вследствие непр...

Паапа Эссьеду может не сыграть Снейпа в новом «Гарри Поттере» Выбор темнокожего актёра Паапы Эссьеду на роль профессора зельеварения вызвал бурю споров среди фанатов. Крупные фан-сайты пишут, что сам актёр и рук...

«Газета.Ru»: бета iOS 26 не показывает цены в «Яндекс Go» и ломает приложения. Apple выпустила первую бету операционной системы iOS 26, заявив о самом масштабном обновлении платформы iPhone за 10 лет. Новую концепцию дизайна наз...

Центры обработки данных увеличили расходы на 9,4 млрд долларов в крупнейшей сети США Растущие потребности центров обработки данных в энергии обуславливают напряженность в условиях спроса и предложения. Быстрое развитие центров обработ...

Роман Абрамович заявил, что "покончил" с футболом и больше никогда не купит футбольный клуб Роман Абрамович, который три года назад был вынужден продать английский "Челси" после 19 лет владения им, впервые высказался об этом. Он заявил, что ...

"Заставил трогать себя". Старшая дочь многоженца Ивана Сухова обвинила его в сексуализированном насилии Старшая дочь многоженца Ивана Сухова, который стал известен как отец 30 детей, обвинила его в домогательствах. Анна Сухова в эфире ток-шоу "Пусть гов...

Представлена macOS 26 Tahoe – новый дизайн и обновлённый Spotlight На сегодняшнем мероприятии WWDC 25 Apple официально представила свою новую операционную систему для Mac – macOS 26 Tahoe. Дизайн Liquid GlassСамой за...

Apple представила watchOS 26 с персональным голосовым помощником На WWDC 2025 Apple анонсировала новую версию своей операционной системы для умных часов – watchOS 26, предложив пользователям расширенные возможности...

Наука о контактах: тест-драйв Exlantix ET От первого анонса до старта продаж Exlantix в России прошло больше двух лет — поэтому каждый, кто хотел, наверняка уже разобрался, что это выведенный...

Brabus 900 Rocket с пробегом всего тысяча километров появился в продаже в России Автомобиль с редким обвесом, форсированным до 900 лошадиных сил двигателем и уникальным интерьером выставлен за 95 миллионов рублей. Это самый дорого...

Учёные запечатлели формирование планеты-гиганта на расстоянии 430 световых лет от Земли Группа астрономов, возглавляемая исследователями из Университета Голуэя, получила впечатляющие снимки, запечатлевшие, по всей видимости, процесс форм...

Проглоти стресс: DARPA создаёт «умную таблетку» против ПТСР Агентство передовых оборонных исследовательских проектов США (DARPA) запустило программу CoasterChase, направленную на разработку проглатываемого эле...

«Блочные войны» в Колхозном переулке Смоленска: кто прав в «восстании» автовладельцев Бетонные блоки перегораживают проезд в Колхозном переулке в районе домов №№19 и 19а. Smolnarod попытался разобраться в истории соседских «войн&#...

Свидетели по делу экс-главы Гагаринского района Романа Журавлева меняют показания Сразу два ключевых свидетеля, которые на этапе следствия изобличали бывшего главу района, на судебном заседании «забыли» о том, как он оказывал на ни...

Кремнию брошен вызов: учёные впервые собрали процессор из двумерных материалов Учёные впервые создали одноинструкционный компьютер (ОИК) на основе двумерных материалов — ультратонких структур толщиной в один атом. Это откр...

В Роспотребнадзоре сообщили о случаях оспы обезьян в России Сейчас это заболевание широко распространилось среди жителей Африки. Глава ведомства Анна Попова рассказала, что в нашей стране случаи заболевания ос...

Пассажиры «Победы» не смогли улететь из-за отказа регистрироваться платно Они считают, что компания специально продала больше билетов, чем есть мест на самолётах. Дело в том, что все не попавшие на свой рейс были в конце оч...