Современные технологии искусственного интеллекта машинного обучения часто полагаются на свободный поток пользовательских данных. Это ставит Apple в трудное положение.
Хотя он хочет оставаться на переднем крае искусственного интеллекта, он не хочет ничего делать, чтобы помешать его подходу к технологиям, основанному на конфиденциальности. К счастью, эту проблему можно решить.
В своем выступлении на конференции Neural Processing Information Systems (NIPS) в этом году глава Apple по вопросам конфиденциальности Жюльен Фрейдигер обсудил подход Apple. Он использует метод машинного обучения с сохранением конфиденциальности, называемый федеративным обучением.
Федеративное обучение обучает алгоритмы машинного обучения на нескольких локальных наборах данных без обмена выборками данных. Это позволяет Apple делать такие вещи, как заставить Siri распознавать ваш голос (и только ваш голос) как слово для пробуждения. Что еще более важно, он делает это без глобального обмена этими данными. Все, что передается в общий доступ, - это обновленные нейронные сети, которые используются для улучшения общей основной сети. Это разумный способ обеспечить преимущества ИИ, управляемого данными, не снимая с устройств такие вещи, как необработанный звук запросов Siri.
Apple также использует дифференциальную конфиденциальность. Это добавляет небольшой шум в необработанные данные, поэтому труднее реконструировать аудиофайлы из обученной модели.
Apple использует дифференцированную конфиденциальность с 2017 года. Однако он только недавно объединил его с федеративным обучением. Apple также использует подход AI для таких вещей, как клавиатура QuickType.
Подход Apple к искусственному интеллекту - новый шаг вперед
Сосредоточенность Apple на конфиденциальности - это то, что существовал при Стиве Джобсе. Однако под руководством Тима Кука Apple стала уделять больше внимания этому вопросу. Во многом это связано с тем, что такие разработки, как масштабные взломы и массовый анализ данных, получили более широкое распространение.
Тим Кук также увеличил внимание Apple к искусственному интеллекту. В этой области Apple раньше отставала. В 2017 году Apple запустила собственный полуакадемический блог Журнал Apple по машинному обучению. Это позволило компании рассказать о том, как она использует машинное обучение, чтобы «помогать создавать инновационные продукты для миллионов людей во всем мире».
Apple дополнительно нанял Иана Гудфеллоу в качестве нового директора по машинному обучению. Бывший эксперт Google AI создал генеративные состязательные сети (GAN), одну из самых захватывающих современных разработок в области искусственного интеллекта.
Однако не все было положительно с точки зрения конфиденциальности. Ранее в этом году выяснилось, что подрядчики Apple имели доступ к записям разговоров людей с Siri. Они использовались для улучшения функциональности Siri. Практика была временно прекращена, и подрядчики отпускают.
«Мы понимаем, что не в полной мере соответствовали нашим высоким идеалам, и приносим за это свои извинения», Apple говорится в заявлении.
Похоже, компания хочет показать, как она усердно работает, чтобы избежать повторения этой ошибки.
Источник: Обзор технологий MIT