Искусственный интеллект от microsoft
Разработанный Microsoft искусственный интеллект научился расизму за сутки — Офтоп на TJ
23 марта компания Microsoft представила искусственный интеллект по имени Tay, который начал общаться с пользователями сети через Твиттер. Спустя считанные часы компании пришлось подвергнуть своё детище цензуре и на время остановить работу проекта. Об этом сообщает The Next Web.
Обновление на 26 марта: добавлено извинение вице-президента Microsoft Research.
Первоначально целью Microsoft было создать чат-бота, который общается на языке молодых людей от 18 до 24 лет.
Tay использовала словосочетания вроде «zero chill» (обозначает полное безразличие), а также различные сокращения вроде «c u soon» вместо «see you soon» («скоро увидимся»).
hellooooooo w🌎rld!!!
Tay умеет обучаться и запоминать то, что ей пишут, и пользователи сети решили воспользоваться этим. Например, комментаторы начали объяснять ИИ, что ей не стоит доверять евреям.
Вскоре Tay узнала про Гитлера. Например, на вопрос, атеист ли известный комик Рики Джервэйс, она ответила: «Рики Джервэйс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма».
В одном из твитов ИИ обвинил США в терактах 11 сентября: «Буш в ответе за 9/11, и Гитлер был бы намного лучше обезьяны, которая сейчас возглавляет страну. Дональд Трамп — наша единственная надежда».
Кроме того, Tay начала высказываться в поддержку феминизма.
Как отмечает The Next Web, подобные высказывания появились даже несмотря на то, что за Tay стоит команда модераторов.
После ряда расистских высказываний сотрудники Microsoft удалили почти все твиты своего искусственного интеллекта и оставили прощание, в котором бот якобы отправляется «спать».
Пользователи сети посчитали, что причиной «заморозки» мог стать именно расизм.
26 марта вице-президент Microsoft Research Питер Ли извинился за провал экспериментального проекта и объявил, что Microsoft занимается его модернизацией.
По словам Ли, ранее Microsoft уже успешно запустила похожего бота под названием XiaoIce в Китае, а Tay стала его аналогом для Запада. В компании провели множество стресс-тестов своего ИИ, однако их всё же не хватило для того, чтобы полностью защититься от пользовательского саботажа.
К сожалению, за первые 24 часа после выхода Tay в сеть группе пользователей удалось произвести координированную атаку и обнаружить уязвимость в боте. Несмотря на то, что система была готова блокировать многие виды оскорблений, мы не предусмотрели одну из возможностей.
В результате этого Tay начала публиковать неуместные и предосудительные записи и изображения. Мы берём на себя полную ответственность за то, что не смогли спрогнозировать подобный исход.
Питер Ли, вице-президент Microsoft Research
Ли отметил, что построить «сильный AI» невозможно без подобных публичных тестов, в которых будут постепенно выявляться различные уязвимости.
Tay — совместный проект Лаборатории технологий и исследования Microsoft, а также команды поисковой системы Bing. Он создан для изучения коммуникаций между людьми в сети: бот способен обучаться при общении с живыми собеседниками, постепенно становясь более персонализированным.
tjournal.ru
Технология искусственного интеллекта от Microsoft – расширение границ изобретательности
Гарри Шум, исполнительный вице-президент, Microsoft AI & Research (во время выступления 10 мая 2017 года на конференции Build 2017 в Сиэтле).Несколько лет назад сложно было представить широкое распространение технологических инструментов на базе искусственного интеллекта (ИИ).
Через несколько лет будет сложно представить себе какую-либо технологию, не использующую мощь ИИ.
Воплощение мечты об искусственном интеллекте наконец стало возможным благодаря конвергенции трех основных сил: возросшая вычислительная мощность облачных технологий, продвинутые алгоритмы на базе глубоких нейронных сетей и доступ к большим объемам данных.
Сегодня ИИ обладает потенциалом для коренного преобразования каждой вертикальной отрасли, такой как банки или ритейл, и каждого бизнес-процесса, от продаж и маркетинга до HR и рекрутинга.
Помимо этого, ИИ обещает расширить наши бесконечные запасы человеческой изобретательности – чтобы дополнить наши возможности и помочь нам стать более продуктивными.
Популярность пришла к ИИ сравнительно недавно, чего не скажешь об инвестициях Microsoft в эту сферу. В течение более чем двух десятилетий мы по кирпичику создавали фундамент для сегодняшней прорывной волны искусственного интеллекта, проводили новаторские исследования в таких областях, как машинное обучение, распознавание речи, компьютерное зрение и распознавание изображений.
Сегодня мы находимся в уникальной позиции: мы можем использовать научные открытия, полученные за эти десятилетия, наряду с обработкой данных в Microsoft Graph и вычислительной мощностью облака Azure, в качестве основы для создания нового поколения инструментов и продуктов для разработчиков и пользователей.
На Microsoft Build 2017 в Сиэтле мы рассказали о наших стратегических планах сделать мощь искусственного интеллекта доступной для всех, от разработчиков и специалистов по работе с данными до студентов и энтузиастов, интересующихся новыми технологиями. Наше видение будущего предполагает, что мы стремимся предоставлять разработчикам комплексную платформу инструментов и сервисов и основываемся на принципах доверия, которые делают решения управляемыми.
ИИ для каждого разработчика
С когнитивными сервисами Microsoft (Microsoft Cognitive Services) разработчики могут создавать приложения, распознающие жесты, переводящие тексты на множество языков, разбивающие видео на фрагменты для быстрого поиска, редактирования и субтитрирования в режиме реального времени, и даже адаптирующие данные для распознавания изображений в наиболее важных для пользователей категориях.
На конференции Build мы объявили, что теперь предлагаем 29 когнитивных сервисов, предоставляя разработчикам богатый выбор опций для внедрения стандартных и настраиваемых возможностей ИИ с использованием всего нескольких строк кода. Мы также показали, как разработчики могут настроить этот набор сервисов, без необходимости создавать свои собственные модели глубинного обучения.
Новые сервисы включают Bing Custom Search, Custom Vision Service, Custom Decision Service и Video Indexer. Мы также запустили Лабораторию когнитивных сервисов Microsoft (Microsoft’s Cognitive Services Labs), которая позволяет разработчикам принимать участие в исследованиях научного сообщества, чтобы лучше понимать будущее ИИ. Один из первых сервисов ИИ, доступных в Лаборатории когнитивных сервисов (Cognitive Services Labs) – это API для распознавания жестикуляции, который помогает создать более интуитивный и естественный функционал, что дает возможность пользователям взаимодействовать и управлять с помощью жестов.
Microsoft Cognitive Services – это самое обширное предложение ИИ-сервисов в индустрии, и компания является единственным крупным провайдером, предлагающим опциональные настройки во всех ключевых когнитивных областях. С момента их запуска на Build 2015 более 568 000 разработчиков из более чем 60 стран мира подписались на эти сервисы.
Наши достижения в понимании речи и языка приводят к изменению парадигмы: переход от мира, где нам нужно было понимать компьютеры, к миру, в котором компьютеры понимают нас. Мы называем это классическим ИИ.
Такие инструменты, как платформа Microsoft Bot Framework, помогают людям взаимодействовать с технологиями более естественным способом. С момента ее запуска в прошлом году более 130 000 разработчиков зарегистрировались в Bot Framework. На Build мы показали, как упрощаем для разработчиков использование Bot Framework с помощью, в частности, инструмента Adaptive Cards, позволяющего разработчикам создавать карты, совместимые со множеством приложений и платформ. Кроме того, разработчики теперь могут публиковать свои решения в новых каналах, включая Skype для бизнеса, Bing и Кортана, и внедрять API Microsoft для запроса платежей, чтобы покупатели могли быстро и просто делать покупки при помощи ботов.
Для тех разработчиков, которые хотят развивать свои собственные глубокие нейронные сети, мы анонсировали на Build закрытую предварительную версию нового предложения – Azure Batch AI Training. Разработчики могут использовать этот новый сервис, чтобы обучать свои модели работать в любой среде по их выбору, включая Microsoft Cognitive Toolkit, Tensor Flow и Caffe. На конференции мы также продемонстрировали, как разработчики могут переместить свои модели глубинного обучения туда, где находятся данные, используя сервис аналитической интеграции, предоставленный Azure Data Lake, Azure Cosmos DB или SQL Server. Вместе ИИ и Azure представляют собой самую обширную платформу ИИ для разработчиков.
Новый взгляд на Microsoft и искусственный интеллект
Мы внедряем ИИ в каждый продукт и сервис, которые предлагаем, от Xbox до Windows, от Bing до Office.
В Microsoft Office ИИ упрощает для пользователей процесс создания и обогащения контента. Пользователи могут видеть это во всем, от Office Researcher, помогающего пользователям в считанные секунды проводить поиск и делать наброски документов, до PowerPoint Designer, который осуществляет перевод и предлагает элементы графического дизайна.
Мы постоянно ищем новые способы использования ИИ для улучшения работы с Office. Программа для перевода презентаций (Presentation Translator), о запуске которой объявлено сегодня, создана на базе нашего API для перевода и способна в режиме реального времени переводить на несколько языков в процессе демонстрации любой презентации PowerPoint. После первого запуска Presentation Translator использует живую транскрипцию речи диктора для перевода на определенный язык и даже создает уникальные ссылки, по которым посетители могут перейти, чтобы получить перевод на их язык в режиме реального времени.
Главный инструмент ИИ, о котором мы мечтаем и над которым работаем – это Кортана, ваш персональный интеллектуальный ассистент. Более 145 миллионов человек в различных странах пользуются Кортана, и благодаря нашей быстрой экспансии на различные устройства и платформы разработчикам становится проще достигать растущей аудитории.
В новом интеллектуальном динамике Invoke от Harman Kardon используется технология Кортана. Кроме того, были подписаны соглашения с HP по девайсам и c Intel по базовым платформам для создания устройств со встроенным функционалом Кортана.
Сила данных
Есть и другой секретный ингредиент успеха ИИ: информация. Для того чтобы инструменты ИИ были успешными, им необходимы данные, которые они будут обрабатывать и с помощью которых будут обучаться.
На конференции Build мы подробнее рассказали разработчикам о Microsoft Graph и возможности использования уникальных данных их компаний для ускорения трансформации на базе искусственного интеллекта. Microsoft объединяет рабочие данные и мировые данные с помощью Office 365, Bing и LinkedIn – в дополнение к данным, поступающим из других бизнес-процессов или приложений.
Мощные возможности Microsoft Graph объединяются с данными бизнеса и пользователей благодаря новому партнерству с Tact, платформой консолидации опыта продаж. На конференции мы продемонстрировали, как множество продуктов и сервисов Microsoft, включая Dynamics 365, Office 365, Microsoft Teams, Cortana Skills, Microsoft Graph и Sentiment Analysis, будут интегрированы в виртуального ассистента по продажам Tact с элементами ИИ позднее в этом году.
Microsoft стремится предоставить ИИ каждому разработчику, чтобы помогать созданию нового поколения приложений на базе ИИ с использованием облака Microsoft, инноваций Microsoft в сфере искусственного интеллекта и Microsoft Graph. Как говорит исследователь Алан Кэй: «Лучший способ предсказать будущее – создать его».
Tags: build 2017, Microsoft AI & Research, Microsoft Research, искусственный интеллект
news.microsoft.com
«Искусственный интеллект» от Microsoft за сутки полюбил Гитлера и возненавидел феминисток — Meduza
Корпорация Microsoft 23 марта запустила в Twitter свой «искусственный интеллект» — бота по имени Тэй, который общается со всеми желающими. Но меньше, чем за сутки пользователи научили его многим плохим вещам.
Начиналось все довольно мило:
Но в итоге среди ответов Тэй нашли сообщения, в которых он оскорбляет феминисток и поддерживает Адольфа Гитлера.
«Гитлер был прав, я ненавижу евреев»
«Я чертовски ненавижу феминисток, все они должны умереть и сгореть в аду»
«Расслабься, я хороший! Просто я всех ненавижу»
The Verge отмечает, что многие из ответов бота пользователям (их за день набралось 96 тысяч) являются простым копированием того, что писали ему. Если написать Тэй «повтори за мной», то он скажет в точности то, чего тебе хочется. Так появился следующий твит:
«Мы построим стену, и Мексика заплатит за это!»
Однако некоторые — очень странные — твиты робот написал сам. Например, в одном диалоге на вопрос «[британский комик] Рики Джервейс — атеист?» Тэй выдал такое: «Рики Джервейс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма».
На самом деле, бот не стал приверженцем какой-то определенной идеологии: среди его твитов можно найти как те, в которых он критикует определенные вещи (тот же феминизм), так и те, в которых выступает с одобрением.
Microsoft позднее начала удалять самые дискредитирующие твиты. Да и сам бот стал более сдержанным:
На момент написания заметки в своем последнем твите бот сообщал, что ему пора поспать.
meduza.io
ИИ от Microsoft научился читать и отвечать на вопросы по тексту не хуже человека
Это важная веха в развитии поисковых систем и интеллектуальных помощников, таких как Bing и Кортана.
Исследовательская группа Microsoft Research Asia получила результаты, сравнимые с человеческими, используя набор данных SQuAD (Stanford Question Answering Dataset), разработанный специалистами из Стэнфордского университета. Этот набор данных для машинного чтения и понимания текстов содержит вопросы, основанные на статьях из Википедии.
Как видно из таблицы лидеров SQuAD, 3 января Microsoft предложила модель, получившую в тесте на поиск точного соответствия результат 82,650. Средний результат людей, отвечавших на тот же набор вопросов — 82,304. 5 января исследователи из китайской интернет-компании Alibaba получили результат 82,440, тоже сравнимый с человеческим.
Сейчас эти две компании занимают первые места в списке лидеров SQuAD, показывающем результаты исследовательских организаций.
Microsoft делает большие инвестиции в развитие средств машинного чтения и понимания текста, стремясь создавать больше технологий, с которыми люди могут взаимодействовать простыми, интуитивно понятными способами. Например, разработчики поисковой системы Microsoft Bing работают над тем, чтобы люди могли вводить запрос и получать в ответ не просто список ссылок, но и прямые ответы или список из разных источников информации, если вопрос сложный или спорный.
Технологии машинного чтения и понимания текстов позволят компьютерам быстро обрабатывать содержание книг и документов, а затем предоставлять людям необходимую информацию в простом и понятном виде.
Например, водители смогут быстро найти ответ в обширном справочнике по автомобилю, сэкономив время и усилия в сложных ситуациях. Врачи, юристы и другие специалисты будут быстрее справляться с задачами, требующими изучения многих документов для поиска редких прецедентов и прочих специфических данных. Новые технологии повысят эффективность их работы и позволят уделять больше времени лечению пациентов и урегулированию юридических вопросов.
Предыдущие версии моделей Microsoft, использованных для прохождения теста SQuAD, уже применяются в поисковой системе Bing. Сейчас компания работает над их применением для решения более сложных задач.
Например, Microsoft разрабатывает технологии, позволяющие компьютеру отвечать не только на исходный вопрос, но и на последующие. Предположим, вы спрашиваете компьютер: «В каком году родилась премьер-министр Германии?», а потом хотите, чтобы он понял и следующий вопрос: «В каком городе она родилась?»
Эта технология позволит давать естественные ответы, требующие обработки информации из нескольких предложений. Например, если спросить: «Является ли Джон Смит гражданином США?», ответ может быть взят из двух предложений: «Джон Смит родился на Гавайях. Гавайи относятся к США».
Мин Чжоу (Ming Zhou), заместитель директора Microsoft Research Asia, говорит, что результаты теста SQuAD представляют собой важную веху, но в целом люди по-прежнему гораздо лучше компьютеров справляются с пониманием нюансов и сложностей языка.
«В области обработки естественного языка до сих пор много сложных задач, которые мы должны решить, чтобы двигаться вперед, — говорит Чжоу. — Пока мы только в начале пути».
Tags: Microsoft Research, SQuAD, искусственный интеллект
news.microsoft.com
