Ученые ЮУрГУ исследуют возможности безопасного машинного обучения
Май в России посвящен теме «Безопасность. Новые вызовы и угрозы». Такое направление выбрали в рамках Года науки и технологий. Сфера безопасности охватывает разные аспекты, в том числе и цифровой. Например, ученые ЮУрГУ решают вопросы защищенности данных в облачных хранилищах.
В последнем исследовании специалисты обратились к проблеме возможности обработки данных без необходимости их дешифровки. Этот процесс позволит обеспечить безопасную обработку нейронными сетями защищенных данных на открытых облачных ресурсах. В рамках работы, опубликованной в научном журнале «Peer-to-Peer Networking and Application» (Q2), авторы проанализировали текущее состояние исследований в данной области и выявили ключевые барьеры безопасного машинного обучения и методы их преодоления.
Сегмент облачных услуг растет год от года, во многом потому что для хранения больших объемов данных организации все чаще выбирают виртуальные центры обработки информации. Арендовать масштабируемые и высокопроизводительные вычислительные ресурсы в «облаках» может любой желающий.
Специалисты предупреждают: помимо удобства нужно думать и о безопасности. Вопросы, связанные с возможностями безопасной обработки данных, сегодня стоят достаточно остро. Так, эксперты аналитической группы Unit 42 отметили, что во втором квартале 2020 года количество преступлений, связанных с нарушением безопасности облачных вычислений, увеличилось на 188%.
Современные протоколы передачи информации позволяют передавать и хранить данные в «облака» в зашифрованном виде. Однако для обработки и анализа данных необходима дешифровка, что существенно повышает риск утечки данных.
Ученые Южно-Уральского государственного университета занимаются решением этой проблемы в Научно-исследовательской лаборатории проблемно-ориентированных облачных сред (Высшая школа электроники и компьютерных наук). Сейчас специалисты работают над реализацией собственных методов и подходов для решения задачи машинного обучения над зашифрованными данными. Ключевую работу проводят руководитель лаборатории профессор Андрей Черных и постдок Хорхе Марио Кортез-Мендоза.
На фото: Хорхе Марио Кортез-Мендоза, сотрудник международной лаборатории проблемно-ориентированных облачных сред
«Одним из наиболее частых примеров задач, которые решаются в рамках виртуальных центров обработки данных, являются задачи обработки данных методами машинного обучения, в частности – нейронных сетей. Для обработки данных классическими методами нейронных сетей требуется расшифровка. В рамках начального этапа исследования мы анализируем существующие подходы, которые позволяют обеспечить обработку данных средствами нейронных сетей без необходимости их дешифровки», – объяснил к.ф.-м.н., директор ВШ ЭКН Глеб Радченко.
Над решением задач в данном направлении работают многие научно-исследовательские группы. Ключевым вопросом является увеличение скорости работы нейронных сетей и улучшение качества обучения их работе над зашифрованными данными.
Подходом, который не требует дешифровки данных при операциях с ними, является метод гомоморфного шифрования. После загрузки и расшифровки обработанных данных результат будет такой же, как и в случае работы с исходным их вариантом.
Сегодня рядом научных коллективов уже предложено множество решений, связанных с применением гомоморфного шифрования, но систематического сравнения систем нейронных сетей, сохраняющих конфиденциальность с помощью гомоморфного шифрования, не проводилось. Впервые такую работу выполнили ученые ЮУрГУ совместно с коллегами из научно-исследовательского центра CICESE (Мексика), Института системного программирования РАН (г. Москва), Северо-Кавказского Федерального Университета (г. Ставрополь) и МФТИ (г. Москва).
В опубликованной работе ученые описали фундаментальные концепции систем обработки данных без необходимости их дешифровки, выявили современные механизмы работы, описали существующие открытые проблемы и их решения, связанные с гомоморфным шифрованием и машинным обучением.
На сегодняшний день отсутствуют подробные обзоры полностью гомоморфного шифрования, а существующая литература предназначена для практиков, ищущих подходы к реализации. Теоретическое исследование должно расширить понимание задач за счет разработки новых теорий и алгоритмов.
Южно-Уральский государственный университет (ЮУрГУ) – это университет цифровых трансформаций, где ведутся инновационные исследования по большинству приоритетных направлений развития науки и техники. В соответствии со стратегией научно-технологического развития РФ университет сфокусирован на развитии крупных научных междисциплинарных проектов в области цифровой индустрии, материаловедения и экологии. В Год науки и технологий ЮУрГУ примет участие в конкурсе по программе «Приоритет–2030». Вуз выполняет функции регионального проектного офиса Уральского межрегионального научно-образовательного центра мирового уровня (УМНОЦ).