스피커 :dr. 이민 첸
카지노 검증 사이트 위치 : 학교 본부 관리 건물304室
카지노 검증 사이트 시간 :2023年1月5오후에14:00-16 : 00
카지노 검증 사이트 주제: 데이터 공간의 탐지를 통해 대적 공격으로부터 AI 모델을 방어
프로필 :dr. Chen현재매사추세츠 대학교 로웰컴퓨터 및 정보 과학 학교 조교수.2018획득애리조나 주립 대학박사 학위. 현재의 주요 연구 방향은 기계 학습 보안 및 개인 정보이며 공격 유형에는대적 예제 공격，백도어 공격，중독 공격，회원 자격 불균형 공격등, 응용 시나리오에는 연합 학습, 비교 학습, 대형 언어 모델 및 자율 주행 모델이 포함됩니다. 실제 응용 분야에서 기계 학습 모델을위한 효과적이고 안정적인 방어 시스템을 제공하는 데 중점을 둡니다. 많은 연구 결과가 보안 회의 (IEEE 보안 및 개인 정보/ACM CCS/NDSS)그리고 컴퓨터 네트워크 탑 회의 (IEEE MOBICOM/Infocom）。
초록 : 다른 분야에서 인공 지능 모델을 광범위하게 적용하면 모델의 보안 및 견고성이 점점 더 중요 해지고 있습니다. 인공 지능 모델에 대한 현재 공격에는 모델 교육 단계가 포함됩니다중독 공격、백도어 공격그리고 모델 배포 단계대적 예제 공격、회원 자격 불균형 공격등.llm和AIGC인공 지능의 애플리케이션 시나리오가 크게 확장되었으며 모델의 복잡성이 증가하면 모델에 더 많은 잠재적 취약성이 있습니다. 이러한 맥락에서, 제어 가능한 비용과 어느 정도의 다양성을 가진 방어 시스템이 더욱 중요합니다. 이 카지노 검증 사이트에서는 일반 AI 모델 방어 메커니즘에서 팀의 두 가지 작업을 소개합니다.Manda和플레어. 우리는 데이터 공간과 표현 공간에서 샘플의 다양한 동작을 비교하여 잠재적 공격 샘플을 감지하는 방법에 중점을 두어 해당 방어 시스템이 제어 가능한 비용의 전제에 따라 다양한 메커니즘을 기반으로 설계된 공격 방법에 대해 높은 탐지 정확도를 얻을 수 있습니다.
