Instagram está trabalhando em rótulos para IA

Por Jon Porter, um repórter com cinco anos de experiência cobrindo lançamentos de tecnologia para o consumidor, política tecnológica da UE, plataformas online e teclados mecânicos.

O Instagram parece estar trabalhando em novos avisos que identificariam quando a IA desempenhou um papel na criação de conteúdo em sua plataforma.

O pesquisador de aplicativos Alessandro Paluzzi, que frequentemente descobre novos recursos do Instagram antes de serem oficialmente anunciados ou lançados, postou uma captura de tela de uma página no aplicativo Instagram que diz “o criador ou Meta disse que este conteúdo foi criado ou editado com IA”. O aviso específico observa que, neste caso, é uma imagem que foi “gerada pela Meta AI”, antes de fornecer uma breve descrição do que é IA generativa e como identificar postagens que usam IA.

A descoberta ocorre logo depois que a Meta, juntamente com outros grandes players de IA, incluindo Google, Microsoft e OpenAI, assumiram compromissos com a Casa Branca em torno do desenvolvimento responsável da IA. Além de investir na investigação sobre cibersegurança e discriminação, um dos compromissos incluía o desenvolvimento de um sistema de marca de água para informar os utilizadores quando o conteúdo é gerado por IA.

Não está claro exatamente quão automatizado será o sistema de rotulagem do Instagram e até que ponto ele dependerá da divulgação dos usuários quando a IA foi usada para criar ou editar uma imagem. No entanto, o facto de o aviso conter as palavras “Meta disse” sugere que, pelo menos em alguns casos, a empresa de tecnologia aplicará o aviso de forma proativa, em vez de confiar na honestidade dos próprios utilizadores. Um porta-voz da Meta se recusou a comentar o aviso ao Engadget, e a empresa não respondeu imediatamente ao pedido de comentários do The Verge.

Embora ainda esteja em sua infância, já tivemos uma ideia de como poderia ser a desinformação gerada pela IA quando uma foto do papa com uma jaqueta fofa se tornou viral nas redes sociais no início deste ano. Neste caso, a imagem relativamente inofensiva acabou por ser desmascarada, mas foi vista como um aviso de que existem agora ferramentas simples para espalhar desinformação perigosa se aplicada a imagens de satélite e fotografia política.

A Meta recentemente abriu o código-fonte de seu grande modelo de linguagem LLaMA 2, mas ainda não lançou amplamente recursos de IA generativos voltados para o consumidor para seus produtos como o Instagram. No entanto, temos algumas dicas sobre os tipos de recursos que está desenvolvendo. Em uma reunião geral em junho, o CEO Mark Zuckerberg disse que a Meta estava desenvolvendo recursos como o uso de prompts de texto para modificar fotos para histórias do Instagram, relatou Axios, e o pesquisador de aplicativos Paluzzi também detectou sinais de um recurso de “pincel de IA” para o Instagram que poderia “adicionar ou substituir partes específicas” das imagens. O Financial Times informou recentemente que a Meta poderia integrar um recurso de ‘personas’ de chatbot de IA em seus produtos já no próximo mês.

Além do Meta, o Google já anunciou uma nova ferramenta que deve tornar mais fácil para os usuários determinarem se uma imagem foi gerada por IA. Seu recurso “Sobre esta imagem” será lançado neste verão e foi projetado para destacar o primeiro lugar onde uma imagem foi indexada pelo gigante das buscas, fornecendo pistas vitais sobre suas origens.

/ Inscreva-se no Verge Deals para receber ofertas de produtos que testamos em sua caixa de entrada diariamente.