É uma visão simplista achar que, para resolver o problema de segurança nas ferramentas de IA, é necessário que tudo funcione de forma perfeita ou que não seja implementado, explica Zhao, ao citar exemplos como filtros de spam e firewalls. A defesa de dados e direitos autorais na era digital é um jogo constante de gato e rato. Para Zhao, a maioria dos artistas já entende os riscos envolvidos.
Uma Luz no Fim do Túnel
A disputa entre artistas e grandes empresas de IA é intensa. Hoje, os modelos de IA dependem de bancos de dados vastos, obtidos online, o que gerou controvérsias. Enquanto empresas de tecnologia defendem que tudo na internet é “justo” para uso, muitos artistas acusam essas empresas de utilizarem indevidamente sua propriedade intelectual e infringirem direitos autorais. Eles reivindicam maior controle sobre suas criações e uma compensação justa pelo uso delas.
A Difícil Realidade para Criativos
Os criadores de conteúdo, por enquanto, não estão ganhando essa batalha. Empresas já substituíram ilustradores e redatores por sistemas de IA, como o caso da Marvel Studios, que usou arte gerada por IA na abertura de sua série “Invasão Secreta”. Estações de rádio também dispensaram apresentadores para serem substituídos por vozes artificiais. A questão da IA está no centro de disputas trabalhistas, com sindicatos e estúdios discutindo o uso ético e prático dessa tecnologia. Enquanto isso, diversas ações judiciais seguem em andamento, movidas por artistas e editoras contra empresas de IA. Porém, mesmo que essas disputas legais levem a um resultado favorável, elas talvez não resolvam as questões éticas em torno da IA generativa, tampouco a regulamentação governamental parece estar próxima.
Defesas Necessárias para o Trabalho Criativo
É nesse cenário que ferramentas como Glaze e Nightshade, desenvolvidas por Zhao e Zheng, ganham destaque. Essas ferramentas visam proteger o trabalho dos artistas e ganhar tempo enquanto se discute o uso ético da IA. Para Zheng, não é uma questão de ter uma solução perfeita, mas de oferecer algo prático e imediato, visto que o setor de IA avança em velocidade impressionante e, frequentemente, ignora os danos humanos que pode causar.
Transformando o Setor de IA com Arte Protegida
Zhao e Zheng esperam que ferramentas como o Glaze e o Nightshade possam, futuramente, alterar a maneira como as empresas de IA lidam com a arte e seus produtos. Como o treinamento de modelos de IA é caro e remover amostras problemáticas é complexo, caso um número suficiente de imagens modificadas com o Nightshade seja distribuído online e cause problemas nos modelos, isso pode forçar as empresas a negociar com os artistas para utilizar suas criações de forma justa.
O Caminho para uma Proteção Real
Embora existam muitas incertezas, há sinais de avanço. A MIT Technology Review entrou em contato com empresas de IA como a OpenAI e Stability AI, que, até agora, não detalharam estratégias de proteção específicas. A OpenAI, no entanto, afirmou que leva a segurança a sério e aprimora constantemente suas medidas de proteção. Enquanto isso, o SAND Lab segue em busca de financiamento de fundações e de empresas interessadas em proteger sua propriedade intelectual. Zhao e Zheng também estudam como suas ferramentas podem ser aplicadas em outras áreas, como música, vídeo e games, e planejam continuar aprimorando o Glaze e o Nightshade para manter o setor criativo seguro em um futuro cada vez mais digital.
