Вице-президент Google по поиску Панду Наяк (Pandu Nayak) рассказал, как достигается «ответственное применение» технологий искусственного интеллекта в работе поисковой системы.
Обучение на данных высокого качества
Чтобы минимизировать предвзятость, которая может присутствовать в веб-контенте, Google предварительно обучает свои модели на данных высокого качества. Это существенно снижает риск обучения на основе дезинформации или контента откровенного содержания, и является ключевым в подходе компании.
Строгая оценка
Каждое улучшение поиска проходит тщательную оценку, чтобы гарантировать получение более релевантных и полезных результатов. Ориентиром в данном случае являются Рекомендации по оценке качества поиска, которым следуют асессоры. Они помогают Google понять, какие улучшения лучше удовлетворяют потребности людей в информации.
Согласно Google, этот процесс оценки является центральным для ответственного применения любых улучшений в поиске, независимо от того, идет ли речь о внедрении новых систем, таких как BERT или MUM, или просто о добавлении новой функции.
«Поиск не идеален, и любое применение ИИ не будет идеальным – вот почему любое изменение поиска требует обширной и постоянной оценки и тестирования», - отметили в компании.
Ответственный дизайн
Продуманный дизайн продуктов и приложений является ключом к решению некоторых проблем языковых моделей. В поисковой системе Google многие из этих критических мер по снижению рисков происходят на уровне практических приложений, где можно сосредоточиться на опыте конечных пользователей и более эффективно управлять рисками в небольших моделях, разработанных для конкретных задач.
Экологичность
Обучение и запуск продвинутых моделей искусственного интеллекта может требовать потребления большого количества энергии. Еще одно преимущество обучения меньших моделей, ориентированных на конкретное применение, заключается в том, что затраты на энергию для более крупной базовой модели, такой как MUM, амортизируются по множеству различных приложений.
Недавнее исследование команды Google Research показало, что сочетание эффективных моделей, процессоров и центров обработки данных с чистыми источниками энергии может уменьшить углеродный след модели в тысячу раз – и компания следует этому подходу для обучения своих моделей в поиске.
Языковые модели на практике
Новые языковые модели, такие как MUM, обладают огромным потенциалом для развития способности Google понимать язык и информацию о мире. При этом, хотя они могут быть очень мощными, они не делают существующие системы компании устаревшими.
На сегодняшний день в поиске Google используются сотни алгоритмов и моделей машинного обучения, ни одна из которых не зависит полностью от какой-либо единственной большой модели.
Отмечается, что усовершенствованные AI-системы могут помочь Google расширить его возможности по борьбе со спамом. Недавно поисковик также внедрил новую систему на основе BERT, которая позволяет лучше определять запросы, направленные на поиск откровенного контента, и отделять их от запросов с другим намерением. Это позволило сделать поиск более безопасным для всех и не показывать материалы откровенного характера тем пользователям, которым они не нужны.
В настоящее время специалисты Google продолжают работать над внедрением новых возможностей, которые обеспечивают продвинутые AI-модели, в поиск.
Статьи по теме:
