Pesquisar
Close this search box.
Pesquisar
Close this search box.

Google anuncia ferramenta que identifica conteúdo criado por Inteligência Artificial

Para lidar com alguns dos grandes desafios gerados pela inteligência artificial, como fake news e desinformação, a empresa começa a testar ferramenta que sinaliza manipulação por máquinas

O Google anunciou uma ferramenta, ainda em teste, que identifica conteúdo criado por inteligência artificial. A SynthID, do Google Cloud, divisão de nuvem da empresa, adiciona uma marca d’água nas imagens feitas a partir de IA generativa, a mesma que roda em apps como MidJourney e DALL-E, os mais utilizados para esse tipo de finalidade.

“Embora a IA generativa possa desbloquear um enorme potencial criativo, também apresenta novos riscos, como permitir que os criadores divulguem informações falsas – intencionalmente ou não. Ser capaz de identificar conteúdo gerado por IA é fundamental para capacitar as pessoas com conhecimento de quando estão interagindo com a mídia gerada e para ajudar a prevenir a propagação de desinformação”, afirmou a empresa, em seu blog.

Como o Google vai identificar conteúdo de IA:

O sistema mapeia, por meio da leitura de pixels, imagens que foram geradas por máquinas e aplica uma identificação não visível a olho nu.

A sinalização é visível apenas por algoritmos, ou seja, ela não altera a qualidade das imagens. A mesma ferramenta também rastreia e identifica se houve algum tipo de alteração por máquinas. O lançamento da SynthID foi feito por meio de um post no blog oficial do Google, na terça-feira, 29.

“O SynthID está sendo lançado para um número limitado de clientes que usam a ferramenta Imagen, um de nossos mais recentes modelos de texto para imagem que usa texto de entrada para criar imagens fotorrealistas”, diz a empresa.

Por que isso é importante?

Apesar de ainda estar disponível de forma restrita, o anúncio dessa ferramenta é emblemático e importante diante das discussões sobre produções feitas a partir de IA generativa. No dia 21 de julho, um grupo de empresas que atuam com IA direta ou indiretamente, entre elas o Google, anunciou esforço conjunto e um compromisso com a Casa Branca para identificar conteúdo feito através de IA.

Além da Alphabet, holding do Google, o grupo inclui Meta e a OpenAI, dona do ChatGPT. As empresas se comprometeram a testar minuciosamente os sistemas antes de lançá-los e compartilharem informações sobre como reduzir os riscos e investir em segurança digital.

Existem algumas formas de testar este tipo de conteúdo: análise de linguagem, análise visual e análise de comportamento. A ferramenta anunciada pelo Google atua nas duas primeiras frentes. Além dessas tecnologias, Google, Meta, OpenAI e CIA também estão trabalhando em maneiras de rastrear e identificar os criadores de conteúdo criado por IA. Isso pode ajudar a responsabilizar os criadores desse conteúdo por suas ações.

Combate a fake news e desinformação

Em 30 de março, o MidJourney encerrou um período de testes gratuitos após a repercussão de uma foto do Papa criada em seus sistemas. Na ocasião, o pontífice aparecia vestindo uma blusa de grife. A imagem foi, inicialmente, identificada como real até mesmo por veículos de imprensa. Ainda que não tenha associado o fim dos testes com o ocorrido, a ferramenta afirmou que precisa aprimorar as formas de identificar o conteúdo que os usuários geram através de suas tecnologias.

O que é inteligência artificial generativa?

A inteligência artificial generativa é uma tecnologia que permite que um computador crie conteúdo, como texto, imagens, música ou até mesmo vídeos. Ao contrário da inteligência artificial convencional, que é programada para executar tarefas específicas, a IA generativa é capaz de criar algo novo e inesperado. Essa tecnologia é baseada em algoritmos de aprendizado de máquina que são treinados usando enormes conjuntos de dados. Por exemplo, um algoritmo de aprendizado de máquina pode ser treinado usando milhões de imagens de gatos, o que permite que ele crie suas próprias imagens de gatos.

A IA generativa já está sendo usada em diversas áreas, como na criação de novos produtos de beleza, na produção de arte e até mesmo na criação de roteiros de filmes. Um dos exemplos mais famosos é o programa DeepDream, criado pelo Google, que usa IA generativa para criar imagens psicodélicas a partir de fotos.

Apesar das possibilidades oferecidas pela IA generativa, há também preocupações éticas em torno do seu uso. Por exemplo, se um programa de IA generativo escreve uma notícia falsa que é indistinguível da realidade, isso pode ter consequências graves para a sociedade.

Assista ao vídeo que explica como o Google vai identificar conteúdo gerado por IA (em inglês):

Fonte: Forbes

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Ultimas Postagens

Nova AI do Google está transformando tudo em podcasts

Livelo lança campanha inédita em parceria com Amazon Ads

Nova garrafa de uísque da Johnnie Walker é a mais leve do mundo

Mattel e fabricante da Nokia lançam celular da Barbie

Havaianas desenvolve sandália com o Comitê Paralímpico Brasileiro

Coca-Cola e Oreo combinam sabores em novo biscoito e refrigerante

Tendências tecnológicas: como as empresas podem se beneficiar delas

Estudo mostra como marcas podem ser úteis à periferia

ChatGPT do Google chega ao Brasil; veja como usar

No rótulo da embalagem dos alimentos, vem aí a pegada de carbono ou climática

Nova atualização do ChatGPT possibilitará que tecnologia “veja, ouça e fale”

Investimento em mídia digital tem retração no primeiro semestre

Inscreva e receba novidades

CADASTRE E RECEBA CONTEÚDO DO PORTAL