Scanner de terceiros: Protect AI

Interessado em participar da nossa parceria de segurança / fornecer informações de varredura no Hub? Entre em contato conosco em security@huggingface.co.*

O Protect AI detecta exploits de pickle, Keras e outros, conforme detalhado em sua página de Base de Conhecimento. O Guardian também se beneficia dos relatórios enviados por sua comunidade de Huntrs de recompensas.

Exemplo de um relatório para danger.dat

Parceriámos com a Protect AI para fornecer varreduras e tornar o Hub mais seguro. Da mesma forma que os arquivos são varridos pelo nosso sistema interno de varredura, os arquivos dos repositórios públicos são varridos pelo Guardian.

Nosso frontend foi redesenhado especificamente para esse fim, a fim de acomodar novos scanners:

Aqui está um repositório de exemplo que você pode verificar para ver o recurso em ação: mcpotato/42-eicar-street.

Lembrete sobre a segurança do modelo

Para compartilhar modelos, serializamos as estruturas de dados que usamos para interagir com os modelos, a fim de facilitar o armazenamento e o transporte. Alguns formatos de serialização são vulneráveis a explorações maliciosas, como a execução de código arbitrário (olhando para você, pickle), o que torna o compartilhamento de modelos potencialmente perigoso.

Como a Hugging Face se tornou uma plataforma popular para compartilhamento de modelos, gostaríamos de proteger a comunidade disso, motivo pelo qual desenvolvemos ferramentas como picklescan e por que integramos scanners de terceiros.

Pickle não é o único formato explorável por aí, veja como referência como é possível explorar camadas Lambda do Keras para alcançar execução de código arbitrária.

Update on GitHub