연합 학습을 통한 딥러닝에서의 개인 정보 보호
2023-11-08
org.kosen.entty.User@359e35e3
정강수(zure84)
코센브릿지포럼 4회 인공지능 2차 정강수
▼ 연합 학습을 통한 딥러닝에서의 개인 정보 보호
Privacy-Preserving Deep Learning with Federated Learning
▼ 연사소개 : 정강수 / Jung, Kangsoo
Postdocral researcher, Inria
▼ 발표내용
인공지능 및 기계학습 기술 발전에 따라 학습에 필요한 사용자 데이터의 수집 역시 증가하고 있습니다. 광범위한 사용자 데이터 수집은 민감한 개인 정보를 노출시키므로 보다 안전하고 신뢰할 수 있는 인공지능을 위해서는 이를 방지할 수 있는 기술이 필요합니다. 연합 학습은 서버에서 사용자 데이터를 수집하는 대신 사용자의 기기에서 모델을 학습시킨 뒤 모델 패러미터만을 서버에 전송함으로써 개인정보를 보호할 수 있는 기술로써 소개되었습니다. 이 기술은 사용자 개인 정보 보호 및 모델 성능을 보장한다는 약속으로 많은 주목을 받고 있으나, 최근의 여러 연구들은 연합학습만으로는 사용자의 프라이버시를 침해하는 잠재적인 공격에 대한 충분한 방어가 되지 않음을 보여주고 있습니다. 이 문제를 해결하기 위해 학습 과정에서 일정 수준의 노이즈를 삽입함으로써 일정 수준으로 프라이버시를 보호하는 차등 보호 기법이 연구되어 왔습니다. 이번 발표에서는 연합 학습을 통한 딥 러닝 모델 학습 시 개인 정보를 보호하기 위한 차등 보호 기법에 대해 소개하려 합니다.
▼ 연합 학습을 통한 딥러닝에서의 개인 정보 보호
Privacy-Preserving Deep Learning with Federated Learning
▼ 연사소개 : 정강수 / Jung, Kangsoo
Postdocral researcher, Inria
▼ 발표내용
인공지능 및 기계학습 기술 발전에 따라 학습에 필요한 사용자 데이터의 수집 역시 증가하고 있습니다. 광범위한 사용자 데이터 수집은 민감한 개인 정보를 노출시키므로 보다 안전하고 신뢰할 수 있는 인공지능을 위해서는 이를 방지할 수 있는 기술이 필요합니다. 연합 학습은 서버에서 사용자 데이터를 수집하는 대신 사용자의 기기에서 모델을 학습시킨 뒤 모델 패러미터만을 서버에 전송함으로써 개인정보를 보호할 수 있는 기술로써 소개되었습니다. 이 기술은 사용자 개인 정보 보호 및 모델 성능을 보장한다는 약속으로 많은 주목을 받고 있으나, 최근의 여러 연구들은 연합학습만으로는 사용자의 프라이버시를 침해하는 잠재적인 공격에 대한 충분한 방어가 되지 않음을 보여주고 있습니다. 이 문제를 해결하기 위해 학습 과정에서 일정 수준의 노이즈를 삽입함으로써 일정 수준으로 프라이버시를 보호하는 차등 보호 기법이 연구되어 왔습니다. 이번 발표에서는 연합 학습을 통한 딥 러닝 모델 학습 시 개인 정보를 보호하기 위한 차등 보호 기법에 대해 소개하려 합니다.
