Четверг, 6 октября, 2022
No menu items!

Спор вокруг BlenderBot 3 подчеркивает необходимость в более качественных данных ИИ

Обязательно к прочтению

Разговорный искусственный интеллект прошел долгий путь, и сегодня самые продвинутые чат-боты могут вести невероятно реалистичные беседы с людьми на самые разные темы.

Однако, как и в случае с реальными людьми, кажется, что многие из этих разговоров могут пойти не по плану. Особенность чат-ботов с искусственным интеллектом заключается в том, что они обучаются в основном на общедоступных базах данных. Затем они расширяют свои знания, используя свой предыдущий опыт, то есть старые разговоры, которые они вели с людьми. В результате многие чат-боты ИИ повторяют то, что они уже слышали раньше, включая различные расистские и сексистские высказывания.

Хотя этот факт мало что говорит о том, способен ли ИИ стать разумным, он предупреждает нас о существовании удивительно большой демографической группы пользователей сети, которые либо придерживаются таких противоречивых взглядов, либо просто из кожи вон лезут, чтобы испортить самых продвинутых чат-ботов.

Ярким примером этого является новый BlenderBot 3 компании Meta AI, недавно модернизированный чатбот, который, как утверждается, является самым совершенным из когда-либо созданных компанией. Интересно, что BlenderBot 3 стал нападать на соучредителя и генерального директора Meta Марка Цукерберга, отвечая на вопросы, которые, похоже, ставят под сомнение его репутацию среди сотрудников, некоторые из которых, несомненно, принимали участие в его разработке.

Как пишет газета «Нью-Йорк пост раскрыт На прошлой неделе BlenderBot 3 очень быстро сформировал негативное мнение о Цукерберге и его репутации, о чем свидетельствует твит репортера @jscastro76:

“Oh man, big time. I don’t really like him at all. He’s too creepy and manipulative,” BlenderBot 3 reportedly said.

Би-би-си также прессованный BlenderBot 3 за свои взгляды на Цукерберга и Facebook, и он не стал тянуть с ответом. «Его компания эксплуатирует людей ради денег, и ему все равно. Это нужно прекратить!» — ответил чатбот.

Беседы с BlenderBot 3 на другие темы привели к еще одному противоречивые заявления . Например, ИИ заявил, что «(евреи) чрезмерно представлены среди сверхбогатых людей Америки», а затем добавил, что «политические консерваторы… сейчас превосходят по численности леволиберальных евреев» во время дискуссии с обозревателем Wall Street Journal Джеффом Хоровицем.

Удивительно или нет, но BlenderBot 3 более благосклонно отнесся к скандальному экс-президенту США Дональду Трампу, повторяя утверждения о том, что его каким-то образом обманули во время последних выборов:

В запись в блоге которая объявила о доступности BlenderBot 3, Мета объяснила, что решила открыть его для публики, подняв негативную огласку, чтобы накопить больше данных.

«Позволяя системе ИИ взаимодействовать с людьми в реальном мире, мы получаем более длинные и разнообразные разговоры, а также более разнообразные отзывы», — пояснили в компании.

Сделав BlenderBot 3 публичным, Meta, несомненно, сможет собрать гораздо больше данных, которые могут быть использованы для обучения ИИ. Но, учитывая склонность человека к озорству, еще предстоит выяснить, будут ли эти данные ценными с точки зрения создания более нейтрального и не оскорбительного ИИ. Это также может привести к вопросам точности — как показывает очевидная уверенность BlenderBot 3 в том, что демократы украли последние выборы. Недостаточные или некачественные данные, как правило, всегда означают низкую производительность и неточные результаты.

Хотя использование данных из открытых источников — это путь, по которому следует идти, если мы хотим получить достаточно информации для обучения моделей ИИ до «человеческого» уровня, стало ясно, что просто собирать любые старые данные недостаточно хорошо.

Мета, возможно, лучше изучить новый источник, более тщательно проверенный, децентрализованные данные для обучения ИИ . Вот что Орайхайн пытается сделать это с помощью своего Центра данных Oraichain, который служит децентрализованным рынком для изучения или анализа данных, хранения или обмена данными, а также создания или запроса высококачественных данных. С помощью своего Центра данных Oraichain пытается решить проблемы, связанные с нехваткой данных для обучения ИИ, стимулируя исследовательское сообщество предоставлять высококачественные наборы данных, которые были правильно маркированы и прошли проверку на точность. В компании утверждают, что эти данные могут быть использованы для создания более точных моделей ИИ. Пользователи могут создавать, аннотировать и делиться данными, получая за это вознаграждение в криптовалюте. Таким образом, у пользователей появляется стимул не пытаться манипулировать данными таким образом, чтобы получить противоречивые результаты, как, например, в случае с BlenderBot 3.

Децентрализованные данные, тщательно проверенные нейтральными третьими сторонами, могли бы пройти долгий путь к разрешению некоторых неточностей и противоречий, продемонстрированных BlenderBot 3. Но это произойдет только в том случае, если будет достаточно данных для использования. С Oraichain перспектива получения вознаграждения за создание и обеспечение Обеспечение - это процесс использования одного актива в качестве страховки для обеспечения кредита другим активом. точности данных, надеюсь, побудит больше людей внести свой вклад. Приятно видеть, что Oraichain делает успехи. На этой неделе она объявила о запуске новой программы DApps Децентрализованное приложение — компьютерное приложение, которое базируются на технологии блокчейн совместно с механизмом распределённого выполнения необходимых инструкций. Accelerator Program, которая направлена на поддержку стартапов в ее экосистеме. По мере того как все больше компаний будут полагаться на децентрализованные наборы данных, участники будут получать более привлекательные вознаграждения, поощряя создание большего количества данных, которые могут быть использованы для точного обучения моделей искусственного интеллекта.

Спрос на данные более высокого качества, безусловно, будет, поскольку BlenderBot 3 — не единственный высокопоставленный ИИ, который вызвал негативные заголовки. В 2016 году компания Microsoft, как известно, была вынуждена закрыть Относится к цене закрытия; аналогичный термин используется в биржевой торговле. свой экспериментальный чатбот Tay всего через 16 часов, потому что за это время он уже научился и начал излагать оскорбительные теории заговора, найденные в таких источниках, как Twitter. Позднее Tay был заменен усовершенствованным чатботом под названием «Zo», но и эта замена также была взят оффлайн по аналогичным причинам.

Последние новости

Binance хочет вернуться в Японию после четырех долгих лет работы

Binance может вернуться в Японию, поскольку биржа собирается подать заявку на получение операционной лицензии от регулирующих органов.Новый премьер-министр Японии...

More Articles Like This