제3자 스캐너: Protect AI

Hub의 보안 파트너십에 참여하거나 스캐닝 정보를 제공하시려면 security@huggingface.co로 문의해 주세요.

Protect AI의 Guardian은 Knowledge Base 페이지에 자세히 설명된 pickle, Keras 및 기타 익스플로잇을 탐지합니다. Guardian은 보상을 받는 Huntr 커뮤니티가 보내는 보고에서도 이점을 얻습니다.

danger.dat에 대한 보고서 예시

Protect AI와 파트너십을 맺고 스캐닝을 제공하여 Hub의 안전성을 높였습니다. 내부 스캐닝 시스템이 파일을 스캔하는 것과 동일한 방식으로, 공개 저장소의 파일은 Guardian에 의해 스캔됩니다.

새로운 스캐너를 수용하기 위해 이 목적에 맞게 프론트엔드가 특별히 재설계되었습니다:

기능을 실제로 확인해 볼 수 있는 예시 저장소는 다음과 같습니다: mcpotato/42-eicar-street.

모델 보안 복습

모델을 공유하기 위해 모델과 상호작용하는 데 사용하는 데이터 구조를 직렬화하여 저장 및 전송을 용이하게 합니다. 일부 직렬화 형식은 임의의 코드 실행과 같은 악성 공격에 취약할 수 있어(pickle을 보고 있습니다) 모델 공유가 잠재적으로 위험할 수 있습니다.

Hugging Face가 모델 공유를 위한 인기 있는 플랫폼이 되면서, 커뮤니티를 이러한 위험으로부터 보호하기 위해 picklescan과 같은 도구를 개발하고 서드파티 스캐너를 통합하고 있습니다.

Pickle은 악용 가능한 유일한 형식이 아닙니다. Keras Lambda 레이어를 악용하여 임의의 코드 실행을 수행하는 방법에 대한 참고 자료를 확인해 보세요.

Update on GitHub