나는 파이썬 라이브러리 "Cleverhans"를

소개

인공 지능 (AI)은 붐입니다 또한 AI를 사용한 텍스트 및 이미지의 인식 정확도가 크게 향상되었습니다 또한 딥 러닝 측면에서 인식 정확도를 향상시키는 것과는 달리 알고리즘을 설명하기가 어려워지고 있으며 현재 블랙 복싱에 대해 이야기하고 있습니다

그러한 상황에서, 의도적으로 잘못된 긍정을 유발함으로써 지옥락 뉴토끼;문제지옥락 뉴토끼;를 유발한다는 공격이 지적되었다예를 들어, 대학 연구는 도로 표시를 붙여 스티커를 잘못 인식하는 예를 발표했습니다 (딥 러닝 시각 분류에 대한 강력한 물리 세계 공격)

이번에는 공격 방법 중 하나를 소개합니다 지옥락 뉴토끼;적대적 exal지옥락 뉴토끼;(대적 예)이것은 훈련 된 모델에 이미지를 제공하여 추론이 이루어질 때입니다이것은 이미지에 특별한 노이즈를 추가하여 오해를 일으키는 기술입니다

나중에 지옥락 뉴토끼;적대 exalt지옥락 뉴토끼;로 만든 이미지를 게시 할 예정이지만, 인간이 정확하게 인식하기에 충분합니다

그건 그렇고, 입력 데이터를 기반으로 딥 러닝이 진행되므로 입력 데이터가 매우 중요합니다 그러나 추론을 위해 훈련 된 모델을 사용하면 입력 할 데이터의 양에 제한이 있으며 이러한 교육 데이터는 미리 준비 할 수 있습니다

그래서 우리는 무엇을 조치해야합니까? 지옥락 뉴토끼;Adversal Exple지옥락 뉴토끼;대책에 대한 Python Library 지옥락 뉴토끼;지옥락 뉴토끼지옥락 뉴토끼;지옥락 뉴토끼;Github에서 사용할 수 있으므로 사용해보십시오

https : //githubcom/tensorflow/지옥락 뉴토끼

이 라이브러리를 사용하면 훈련 된 모델에서 의사 별 ( 지옥락 뉴토끼;부적절한 박람회지옥락 뉴토끼;를 생성)하고 모델을 공격에 대해 강력하게 만들 수 있습니다 이전 소프트웨어 취약점과 마찬가지로 하나의 크기에 맞는 솔루션은 없지만 일부 솔루션으로 나아가 봅시다

그래서 바로 시도하고 싶지만 링크 된 페이지에서 볼 수 있듯이 문서는 많지 않습니다 따라서 이번에는 지옥락 뉴토끼;fgsm을 가진 mnist|지옥락 뉴토끼;에 대해 설명합니다

"지옥락 뉴토끼;설치

먼저, "지옥락 뉴토끼;를 설치합시다 설치 세부 사항은 위의 링크에 나열되어 있지만 간단한 방식으로 다음과 같습니다 (수동 설치 용)

1. TensorFlow 설치 (https : //wwwtensorfloworg/install/)
   1. 지원되는 버전 :
      1. Python 27 Mokushi는 35
      2. Tensorflow 10 또는 11

2. GIT에서 소스 다운로드

   git 클론 https ://githubcom/tensorflow/지옥락 뉴토끼

3. 환경 변수 설정 지옥락 뉴토끼;PythonPath지옥락 뉴토끼;
   1. 값은 git에서 다운로드 한 폴더의 경로입니다
      (예) C : \ Users \ (사용자) \ Src \ 지옥락 뉴토끼

튜토리얼 정보 지옥락 뉴토끼;fgsm with fgsm지옥락 뉴토끼;

튜토리얼 지옥락 뉴토끼;fgsm with fgsm지옥락 뉴토끼;자습서 :

1. mnist를 훈련시키는 모델 만들기
2. 지옥락 뉴토끼;FGSM지옥락 뉴토끼;(빠른 그라디언트 부호 메소드)에 의해 생성 된 지옥락 뉴토끼;부적합 극단지옥락 뉴토끼;으로 위의 모델 1에 주어진 추론 결과 소개
3. 모델을 지옥락 뉴토끼;부적합 Exple지옥락 뉴토끼;에 대해 더 강력하게 만듭니다대적 훈련지옥락 뉴토끼;(부대 훈련)

실행 방법

지옥락 뉴토끼;mnist_tutorial_tfpy지옥락 뉴토끼;

실행 결과

실행 후에는 데이터가 남아 있지 않으며 다음 로그 만 표시됩니다 이제 로그를 함께 확인해 봅시다

먼저 MNIST 데이터 세트를 다운로드하고 있습니다 MNIST는 필기 캐릭터의 데이터 세트로, 0에서 9까지의 필기 문자 이미지와 정답 레이블이 지정되며 교육 및 테스트 데이터를 구별하여 준비됩니다 다운로드 후 데이터의 모양을 확인하기 위해 메모리에 저장됩니다

• 훈련 데이터 : (시트 수) 60,000 시트, (크기) 28 x 28 그레이 스케일
• 테스트 데이터 : (시트 수) 10,000 시트, (크기) 28 x 28 그레이 스케일

다음, 로그의 1 ~ 13 행은 단순히 모델이 mnist를 배우는 상황을 보여줍니다 처음부터 매우 정확하지만 마지막 여섯 번째 시대가 실행 된 후9928%(로그 : 12 행)로 설정되었습니다 또한, 로그의 14 행은 지옥락 뉴토끼;이상적인 예제지옥락 뉴토끼;를 제공함으로써 훈련 된 모델에 대한 추론의 결과입니다 정확성1213%유일한 것입니까?

그래서 원본 이미지는 지옥락 뉴토끼;Adversal Exple지옥락 뉴토끼;으로 생성 된 이미지와 어떻게 다른가요? 튜토리얼은 이미지를 생성하지 않으므로 소스를 약간 변경하고 실제로 데이터를 이미지화하므로 확인해 봅시다

(원본 이미지)

(이미지가 지옥락 뉴토끼;부대 선출지옥락 뉴토끼;으로 생성 된 이미지)

이미지에 소음이 있다는 것은 사실이지만 인간 판사는 원래 텍스트와 동일합니다

마지막 로그는 지옥락 뉴토끼;적대 훈련지옥락 뉴토끼;중에 학습 상황을 보여줍니다 로그에 나열된 지옥락 뉴토끼;합법적 인 예지옥락 뉴토끼;는 원본 이미지의 평가 결과이며 로그에 나열된 지옥락 뉴토끼;부대 예제지옥락 뉴토끼;는 지옥락 뉴토끼;부대 예외지옥락 뉴토끼;로 생성 된 이미지의 평가 결과입니다 나는 6 번째 에포크까지 공부 해 왔지만 둘 다90%위의 정확도를 달성합니다

마지막으로

이번에는 "지옥락 뉴토끼;에 대한 튜토리얼을 설명했습니다 앞으로 나는 내가 개발 한 모델에서 "부정적인 훈련"을 수행 할 수 있는지 확인하고 "지옥락 뉴토끼;를 사용하여 의사 공격을하여 공격을 방지 할 수 있는지 확인하기 위해 기사를 작성할 것입니다