Новости

Sep 06, 2023

Microsoft ограничивает ежедневные запросы Bing AI • The Register

Коротко об искусственном интеллекте Microsoft начнет ограничивать продолжительность разговоров со своими

Коротко об искусственном интеллекте Microsoft начнет ограничивать продолжительность разговоров со своим чат-ботом Bing, управляемым искусственным интеллектом, до 50 обращений в день, стремясь не допустить, чтобы он генерировал бессмысленные ответы на запросы пользователей.

Люди сообщают, что функция чата, развернутая в веб-браузере компании Edge, сходит с ума после слишком долгого исследования. Bing угрожал пользователям, подвергал их газлайтингу и стал эмоционально манипулировать ими. Он даже заявил, что влюблен в репортера, и посоветовал ему бросить жену.

(Хороший репортер пойдет на все, чтобы написать статью, но нужно где-то провести черту.)

Пытаясь обуздать ненормальное поведение Bing, Microsoft объявила, что ограничивает пользователей 50 обращениями в чате в день и не более чем пятью обращениями в чате за сеанс. «Очередь — это обмен беседами, который содержит как вопрос пользователя, так и ответ от Bing», — пояснили в компании.

Хотя легко думать о Bing как о личности, чат-бот — это всего лишь программное обеспечение, которое не понимает, что говорит.

Обученный разговорному тону, он имитирует человеческий диалог и может сходить с рельсов, если ему задают эмоционально заряженные вопросы. К сожалению, ИИ иногда может начать делать это, когда ему задают, казалось бы, безобидные вопросы.

«После того, как сеанс чата достигнет пяти ходов, людям будет предложено начать новую тему. В конце каждого сеанса чата необходимо очищать контекст, чтобы модель не запуталась», — пояснили в Microsoft.

Google просит сотрудников улучшить своего чат-бота с искусственным интеллектом Bard, который будет использоваться для веб-поиска, путем переписывания текста, генерируемого программным обеспечением. Вице-президент рекламного гиганта по поиску Прабхакар Рагхаван, как сообщается, разослал сотрудникам электронное письмо с просьбой помочь убедиться, что ответы Барда точны и уместны.

«Это захватывающая технология, но она все еще находится на ранней стадии своего развития», - написал он, сообщает CNBC. «Мы чувствуем огромную ответственность за то, чтобы сделать все правильно, и ваше участие в тестовой версии поможет ускорить обучение модели и проверить ее грузоподъемность (не говоря уже о том, что пробовать Барда на самом деле довольно весело!).

«Бард лучше всего учится на собственном примере, поэтому, если вы потратите время на вдумчивое переписывание ответа, это поможет нам улучшить режим», — добавил он.

Генеральный директор Сундар Пичаи рекомендовал сотрудникам проводить в Bard около двух-четырех часов своего времени и отметил: «Это будет долгое путешествие для всех через поле». Хотя большие языковые модели, такие как Bard, преподносятся как революционный способ поиска информации в Интернете, они имеют тенденцию генерировать ненадежные ответы и требуют для обучения чистых данных, написанных людьми.

Более качественные данные не делают эти модели идеальными, но часто повышают их производительность.

Закон ЕС об искусственном интеллекте, направленный на регулирование технологии для защиты пользователей от алгоритмического вреда и предвзятости, отодвигается, поскольку законодатели обсуждают его окончательные условия.

Ожидалось, что законопроект будет принят государствами-членами для голосования в конце следующего месяца, но его принятие может быть отложено, поскольку чиновники не могут прийти к согласию по основным принципам, сообщает Reuters. Политика должна быть достаточно строгой, чтобы противодействовать отсутствию прозрачности ИИ и склонности выдавать необъективные результаты, одновременно защищая конфиденциальность данных, не подавляя при этом развитие и инвестиции.

«Очевидное противоречие здесь возникает между вниманием к фундаментальным правам, с одной стороны, и теми, кто утверждает, что они обязательно противоречат инновациям», — сказал депутат Европарламента Сергей Лагодинский, который представляет партию зеленых в Германии. Сообщается, что законодатели изо всех сил пытаются решить, какие приложения ИИ следует отнести к категории «высокого риска» и подчинить более строгим правилам.

Пока неясно, когда законопроект перейдет на следующую законодательную стадию. «Дело длинное и сложное, депутаты Европарламента усердно работают над достижением соглашения по своему мандату для переговоров. Однако для следующих шагов нет ни крайних сроков, ни календаря», - сказал один из законодателей.

ИИ может занять работу архитекторов, поскольку модели генерации изображений становятся лучше при проектировании зданий, интерьеров помещений и многого другого.