{ "@context": "http://www.schema.org", "@graph": [{ "@type": "BreadcrumbList", "@id": "", "itemListElement": [{ "@type": "ListItem", "@id": "/#listItem", "position": 1, "item": { "@type": "WebPage", "@id": "/", "name": "In\u00edcio", "description": "O Correio Braziliense (CB) é o mais importante canal de notícias de Brasília. Aqui você encontra as últimas notícias do DF, do Brasil e do mundo.", "url": "/" }, "nextItem": "/tecnologia/#listItem" }, { "@type": "ListItem", "@id": "/tecnologia/#listItem", "position": 2, "item": { "@type": "WebPage", "@id": "/tecnologia/", "name": "Tecnologia", "description": "Informe-se sobre o que ocorre nas redes sociais e as novidades tecnológicas ", "url": "/tecnologia/" }, "previousItem": "/#listItem" } ] }, { "@type": "NewsArticle", "mainEntityOfPage": "/tecnologia/2024/07/6889176-criticgpt-openai-lanca-ferramenta-para-corrigir-erros-do-chatgpt.html", "name": "CriticGPT | OpenAI lança ferramenta para corrigir erros do ChatGPT", "headline": "CriticGPT | OpenAI lança ferramenta para corrigir erros do ChatGPT", "description": "", "alternateName": "Tecnologia", "alternativeHeadline": "Tecnologia", "datePublished": "2024-07-01T17:53:17Z", "articleBody": "<p class="texto">A OpenAI anunciou um novo modelo de IA chamado CriticGPT, treinado com base no GPT-4 e usado para corrigir possíveis erros em respostas do <a href="https://canaltech.com.br/inteligencia-artificial/o-que-e-chatgpt-como-usar-a-ia-em-portugues/">ChatGPT</a> sobre programação. De acordo com a empresa, pessoas que usam a ferramenta notam melhorias em 60% dos casos.</p> <ul> <li><a href="https://canalte.ch/whatsapp-do-canaltech-noticias" target="_blank">Clique e siga o Canaltech no WhatsApp</a></li> <li><a href="https://canaltech.com.br/inteligencia-artificial/grok-ia-de-elon-musk-ganhara-novas-versoes-a-partir-de-agosto-294431/" target="_blank">Grok, IA de Elon Musk, ganhará novas versões a partir de agosto</a></li> <li><a href="https://canaltech.com.br/inteligencia-artificial/ia-do-google-para-empresas-vai-oferecer-resultados-mais-precisos-294261/" target="_blank">IA do Google para empresas vai oferecer resultados mais precisos</a></li> </ul> <p class="texto">A ferramenta foi criada para refinar os processos de revisão das respostas do ChatGPT: a OpenAI informa que o <a href="https://canaltech.com.br/internet/o-que-e-um-chatbot/">chatbot</a> fica mais preciso ao longo do tempo, com erros mais sutis, e isso pode dificultar a vida dos profissionais que analisam imprecisões na plataforma. A solução, então, foi treinar o CriticGPT para escrever críticas que destaquem vulnerabilidades nas respostas, incluindo bugs que am despercebidos pelos humanos.</p> <p class="texto">A empresa quer integrar modelos similares à novidade nos sistemas de Aprendizado de Reforço por Humano (RLHF, na sigla em inglês), que usam o treinamento de profissionais para encontrar possíveis erros e comparar respostas do chatbot. </p> <figure class="image"><img src="https://t.ctcdn.com.br/7LVT_UhUbQclANfFp3DB8cdIAe4=/1024x0/smart/i911121.png" alt="CriticGPT localiza possíveis erros em respostas do ChatGPT e pode ajudar no treinamenot da IA por humanos (Imagem: Reprodução/OpenAI)" data-ivi="niel" data-portal-copyright=""> </figure> <p class="texto">Os resultados colhidos pela empresa revelam que o CriticGPT não acerta em todas as sugestões, mas os treinadores têm desempenho melhor com a ferramenta em comparação com aqueles que não a usam. Os insights oferecidos pela IA ajudam a criar críticas mais compreensíveis e reduzem os riscos de bugs por alucinação da <a href="https://canaltech.com.br/internet/o-que-e-tecnologia/">tecnologia</a> (processo quando a IA cria fatos inexistentes ou imprecisos).</p> <h2>Limitações</h2> <p class="texto">A ferramenta pode ser útil para detectar bugs, mas a desenvolvedora ainda aponta algumas limitações:</p> <ul> <li>O CriticGPT é treinado apenas em respostas curtas do ChatGPT, então ainda precisa de aprimoramentos para compreender pedidos mais longos;</li> <li>Os modelos ainda podem causar alucinações e dificultar o trabalho dos treinadores da IA;</li> <li>A ferramenta pode corrigir um erro individual num código, mas pode deixar ar outros problemas dentro da própria resposta;</li> <li>O CriticGPT tem dificuldade para ajudar em tarefas muito complexas, até mesmo com a supervisão de experts.</li> </ul> <p class="texto">Inicialmente, a ferramenta está disponível apenas para quem trabalha com o treinamento das ferramentas de IA. E por falar em OpenAI, o CEO <a href="https://canaltech.com.br/apps/sam-altman-quem-criou-o-chagpt/">Sam Altman</a> comentou recentemente que o sucessor do GPT-4, já em desenvolvimento, <a href="https://canaltech.com.br/inteligencia-artificial/gpt-5-sera-salto-significativo-em-relacao-ao-gpt-4-diz-ceo-da-openai-294433/" target="_blank">trará um “salto significativo”</a> em comparação ao modelo atual. </p><img src="https://cauldron.canaltech.com.br/cu/os/?fonte=msn&id=42449389&image=gif" style="width:1px;height:1px;position:absolute;top:-99999px;left:-99999px;opacity:0" width="1" height="1"> <p class="texto">Trending no Canaltech:</p> <p class="texto"> <ul> <li><a href="https://canaltech.com.br/seguranca/microsoft-ite-que-ataque-hacker-russo-afetou-contas-de-clientes-294473/">Microsoft ite que ataque hacker russo afetou contas de clientes</a></li> <li><a href="https://canaltech.com.br/saude/homem-engole-pilula-com-camera-e-transmite-interior-do-corpo-ao-vivo-294395/">Homem engole pílula com câmera e transmite interior do corpo ao vivo</a></li> <li><a href="https://canaltech.com.br/carros/piloto-automatico-da-tesla-confunde-estrada-com-trilho-de-trem-294411/">Piloto Automático da Tesla confunde estrada com trilho de trem</a></li> <li><a href="https://canaltech.com.br/produtos/funcionarios-da-samsung-entram-em-greve-geral-na-coreia-do-sul-294471/">Funcionários da Samsung entram em greve geral na Coreia do Sul</a></li> <li><a href="https://canaltech.com.br/carros/quanto-custam-as-baterias-dos-carros-hibridos-vendidos-no-brasil/">Quanto custam as baterias dos carros híbridos vendidos no Brasil", "isAccessibleForFree": true, "image": [ "https://midias.correiobraziliense.com.br/_midias/jpg/2024/07/01/1200x801/1_i765684-38596233.jpeg?20240701175404?20240701175404", "https://midias.correiobraziliense.com.br/_midias/jpg/2024/07/01/1000x1000/1_i765684-38596233.jpeg?20240701175404?20240701175404", "https://midias.correiobraziliense.com.br/_midias/jpg/2024/07/01/800x600/1_i765684-38596233.jpeg?20240701175404?20240701175404" ], "author": [ { "@type": "Person", "name": "André Lourenti Magalhães", "url": "/autor?termo=andre-lourenti-magalhaes" } ], "publisher": { "logo": { "url": "https://image.staticox.com/?url=https%3A%2F%2Fimgs2.correiobraziliense.com.br%2Famp%2Flogo_cb_json.png", "@type": "ImageObject" }, "name": "Correio Braziliense", "@type": "Organization" } }, { "@type": "Organization", "@id": "/#organization", "name": "Correio Braziliense", "url": "/", "logo": { "@type": "ImageObject", "url": "/_conteudo/logo_correo-600x60.png", "@id": "/#organizationLogo" }, "sameAs": [ "https://www.facebook.com/correiobraziliense", "https://twitter.com/correiobraziliense.com.br", "https://instagram.com/correio.braziliense", "https://www.youtube.com/@correio.braziliense" ], "Point": { "@type": "Point", "telephone": "+556132141100", "Type": "office" } } ] } { "@context": "http://schema.org", "@graph": [{ "@type": "SiteNavigationElement", "name": "Início", "url": "/" }, { "@type": "SiteNavigationElement", "name": "Cidades DF", "url": "/cidades-df/" }, { "@type": "SiteNavigationElement", "name": "Politica", "url": "/politica/" }, { "@type": "SiteNavigationElement", "name": "Brasil", "url": "/brasil/" }, { "@type": "SiteNavigationElement", "name": "Economia", "url": "/economia/" }, { "@type": "SiteNavigationElement", "name": "Mundo", "url": "/mundo/" }, { "@type": "SiteNavigationElement", "name": "Diversão e Arte", "url": "/diversao-e-arte/" }, { "@type": "SiteNavigationElement", "name": "Ciência e Saúde", "url": "/ciencia-e-saude/" }, { "@type": "SiteNavigationElement", "name": "Eu Estudante", "url": "/euestudante/" }, { "@type": "SiteNavigationElement", "name": "Concursos", "url": "/euestudante/concursos/" }, { "@type": "SiteNavigationElement", "name": "Esportes", "url": "/esportes/" } ] } 151k64

CriticGPT 3z615y OpenAI lança ferramenta para corrigir erros do ChatGPT
Tecnologia

CriticGPT | OpenAI lança ferramenta para corrigir erros do ChatGPT 3b81m

CriticGPT é uma nova ferramenta de IA da OpenAI para encontrar bugs e erros no ChatGPT; novidade pode ajudar no treinamento do chatbot por humanos 2d1di

Andrew Neel/Pexels
Andrew Neel/Pexels

A OpenAI anunciou um novo modelo de IA chamado CriticGPT, treinado com base no GPT-4 e usado para corrigir possíveis erros em respostas do ChatGPT sobre programação. De acordo com a empresa, pessoas que usam a ferramenta notam melhorias em 60% dos casos.

A ferramenta foi criada para refinar os processos de revisão das respostas do ChatGPT: a OpenAI informa que o chatbot fica mais preciso ao longo do tempo, com erros mais sutis, e isso pode dificultar a vida dos profissionais que analisam imprecisões na plataforma. A solução, então, foi treinar o CriticGPT para escrever críticas que destaquem vulnerabilidades nas respostas, incluindo bugs que am despercebidos pelos humanos.

A empresa quer integrar modelos similares à novidade nos sistemas de Aprendizado de Reforço por Humano (RLHF, na sigla em inglês), que usam o treinamento de profissionais para encontrar possíveis erros e comparar respostas do chatbot. 

Trending no Canaltech:

Mais Lidas ow5l