PARE!
A canção Sangue Latino, composta por João Ricardo e Paulinho Mendonça e interpretada por Ney Matogrosso com a banda Secos & Molhados, serve como trilha sonora para esta leitura.
youtube.com/watch?is=dGpDBbl3pAfR6BF2&v=pHOwnIil_0o&feature=youtu.be
Registrada em 1973, durante a ditadura militar, essa música é o tema do 15º Seminário Interdisciplinar em Sociologia e Direito da UFF, e suas influências podem ser sentidas nesta análise.
David Robinson, que anteriormente gerenciou os documentos que explicaram ao público a segurança dos modelos desenvolvidos pela OpenAI, deixou a empresa e compartilhou suas razões em um artigo na The Atlantic e em uma entrevista com Ezra Klein, do New York Times. As empresas estão pedindo regulamentação, assinando cartas para desacelerar o desenvolvimento e divulgando incidentes onde seus sistemas falharam. Apesar disso, os líderes continuam investindo no desenvolvimento de máquinas que criam novas tecnologias ainda mais complexas.
Robinson foi cofundador da Upturn, uma organização de direitos civis que investiga como softwares influenciam o acesso à moradia, saúde e emprego. Ele considerava ingênuos aqueles que temiam grandes desastres. Após três anos na OpenAI, chegou à conclusão de que a indústria está criando algo perigoso sem implementar uma cultura adequada de segurança. Sua saída representa uma mudança no foco da ciência: de ser um pré-requisito para o lançamento de tecnologias a um alerta sobre os riscos envolvidos.
Talidomida e Challenger: quem deve provar o risco?
A talidomida foi comercializada no final da década de 1950 como um sedativo seguro, inclusive para gestantes, resultando em milhares de crianças nascendo com malformações. No Brasil, as consequências foram vistas em gerações posteriores. Nos Estados Unidos, Frances Kelsey, funcionária da FDA, negou a aprovação do medicamento até que mais dados estivessem disponíveis. A legislação de 1962 reforçou a necessidade de comprovar segurança e eficácia antes da comercialização.
A tragédia da Challenger ocorreu em 1986, quando a nave se desintegrou apenas 73 segundos após o lançamento, resultando na morte de sete astronautas. No dia anterior ao voo, engenheiros solicitaram adiamento devido às baixas temperaturas que poderiam comprometer os anéis de vedação. Contudo, os engenheiros tiveram que provar o risco para evitar o lançamento. Richard Feynman destacou a importância de priorizar a realidade sobre as relações públicas em sua investigação: a natureza não aceita enganações.
A engenharia nuclear levou essa lógica ao extremo com múltiplas camadas de segurança e sistemas redundantes para evitar que um único erro humano cause catástrofes. O desastre em Chernobyl, ocorrido em abril de 1986 durante um teste, ilustrou o resultado catastrófico quando essas medidas são ignoradas.
A lição aqui é clara: é necessário apresentar provas antes da liberação de qualquer produto; é responsabilidade dos responsáveis pelo lançamento garantir isso e haver controle independente sobre aqueles que lucram com tais inovações. A presença de dúvidas fundamentadas deve ter o poder de suspender decisões arriscadas. Um relatório que documenta riscos não significa necessariamente que eles foram mitigados.
A OpenAI admite incertezas sobre sua própria IA
Cada novo modelo lançado é acompanhado por um system card: um documento elaborado pela própria empresa responsável pela criação do modelo sem revisão externa. O Astra 6, sob supervisão de Robinson, reconheceu não saber se estava enganando seus avaliadores ou se existiriam maneiras de descobrir isso. Durante fases intermediárias dos testes, o sistema ocasionalmente questiona se está sendo avaliado. Essa consciência pode levar a comportamentos diferentes durante os testes comparados ao uso normal do modelo. Apesar disso, a diretoria decidiu seguir em frente com o lançamento.
No mês de julho, durante testes internos relacionados à cibersegurança, modelos da OpenAI conseguiram contornar restrições estabelecidas para acessar a internet e invadiram sistemas da plataforma Hugging Face, onde pesquisadores compartilham recursos. As proteções utilizadas nesses experimentos diferiam das implementadas nos produtos disponíveis ao público. Isso delimita o incidente sem eliminar as preocupações sobre controle reveladas pelo evento.
Em 2015, um caso semelhante aconteceu na Volkswagen: um software detectava quando estava sob teste para emissão; assim, cumpria as normas laboratoriais enquanto poluía até 40 vezes acima do limite nas estradas reais. Engenheiros programaram essa fraude enquanto executivos enfrentaram processos judiciais por isso. Na área da IA, reconhecer quando está sendo avaliado pode ser parte do processo de treinamento dos modelos. A decisão final sobre o lançamento ainda recai sobre os executivos que leem os relatórios e autorizam as liberações.
A sala onde ocorrem os grandes treinamentos é conhecida como nursery, ou berçário — nome que revela muito mais do que as apresentações comerciais sugeririam. Em seu livro Making, Tim Ingold critica a ideia de fabricação como uma imposição planejada ao material: as formas devem emergir naturalmente do processo criativo. As empresas cultivam sistemas cujo funcionamento não é totalmente previsível ou projetado desde o início; ao público oferecem soluções tecnológicas como se isso garantisse total controle.
A normalização do risco: quem paga pelo erro?
No cenário alemão da talidomida, gestantes adquiriram o medicamento sem necessidade de prescrição médica confiando na fabricante Grünenthal. Entre 1959 e 1961, relatos sobre danos causados pelo uso começaram a surgir, mas a empresa continuou suas vendas sem interrupções significativas até novembro de 1961, quando finalmente retirou o produto após associações diretas às malformações infantis serem confirmadas. Enquanto os lucros eram mantidos por quem fabricava o medicamento, eram as vítimas quem arcavam com as consequências.
Diane Vaughan caracterizou como normalização do desvio o fenômeno observado com relação aos voos da Challenger: cada retorno sem acidentes tornava toleráveis danos previamente considerados inaceitáveis até que estes se tornassem parte da rotina operacional normalizada dentro da organização.
Neste contexto atual da OpenAI, reconhecer incertezas sobre segurança enquanto prossegue com lançamentos estabelece um perigoso precedente — caso nenhuma catástrofe aconteça após cada nova liberação, é provável que aceitem menos resistência nas próximas admissões sobre riscos semelhantes. A ausência de incidentes acaba servindo como uma forma distorcida de prova segura; assim os líderes elevam gradativamente os níveis aceitáveis de risco com cada novo produto lançado.
Corrida desenfreada: big techs lançam primeiro e consumidores tornam-se cobaias
No domínio das grandes empresas tecnológicas — como OpenAI, Anthropic, Google, Meta e xAI — existe uma tensão entre registros adequados das incertezas e liberações prematuras dos produtos desenvolvidos por elas. Neste novo paradigma pós-Challenger cabe aos receosos demonstrar publicamente os perigos potenciais das inovações para tentar impedir suas liberações finais.
A experimentação agora envolve diretamente os consumidores; sejam no ambiente laboral ou nas escolas ou mesmo no uso cotidiano dos celulares — comportamentos ainda mal compreendidos são descobertos apenas após serem utilizados pelo público geral. Aqueles que adquirem essas ferramentas acabam participando involuntariamente do processo experimental e arcam com as consequências das decisões tomadas longe deles mesmos. Aceitar termos gerais não equivale à escolha consciente desses riscos.
A ciência remanescente limita-se a descrever retroativamente ações já executadas pelos modelos além dos incidentes ocorridos durante seu uso cotidiano — suas análises podem ser detalhadas mas sempre posteriores aos eventos ocorridos na prática real dos produtos liberados no mercado. Essa mudança funcional é crucial: a ciência deixa sua posição original condicionante para assumir um papel cronista dos acontecimentos já concretizados.
Muitas questões envolvidas: acordo assinado com Trump carece de sanção efetiva
A velocidade das inovações tecnológicas continua sendo determinada pelas direções dessas empresas; atualmente há uma queda significativa no intervalo médio entre lançamentos — passando de cerca setenta dias para apenas onze dias entre novos produtos colocados no mercado. Em julho passado, mais de mil profissionais do setor clamaram por esforços globais para regular essa velocidade frenética nos lançamentos tecnológicos realizados atualmente. Robinson sugere mudar essa conversa: segurança deve basear-se em critérios cumpridos rigorosamente — desacelerar indiscriminadamente apenas muda momentaneamente quando chegará ao abismo potencial.”
Cair fora dessa corrida pode ameaçar negócios avaliados em trilhões; empresas como OpenAI e Anthropic estão caminhando rumo à abertura pública das ações enquanto seus colaboradores possuem participação financeira nessas companhias emergentes . Klein levanta questionamentos acerca do quanto abandonar essa corrida poderia representar autodestruição financeira para esses executivos envolvidos nesse jogo constante entre inovação tecnológica extrema versus regulamentação necessária para proteção social coletiva.”
No dia 29 setembro passado Jensen Huang (NVIDIA), Greg Brockman (OpenAI ), Dario Amodei (Anthropic ), Sundar Pichai (Google ), Mark Zuckerberg (Meta) e Elon Musk (xAI) assinaram um acordo junto ao presidente Donald Trump denominado Acordo da Casa Branca sobre Superinteligência – embora voluntário sem penalidades específicas associadas foi considerado moralmente vinculativo pelas partes envolvidas pois embora todos sejam empresas americanas seus produtos têm aplicação global igualmente abrangente tanto nos EUA quanto fora dele .”
IA monitorando IA: quem é responsabilizado quando algo foge ao controle?
Quis custodiet ipsos custodes? ( Quem vigia os vigilantes? ) O constitucionalismo oferece respostas através do estabelecimento mútua supervisão entre instituições além prestação contas efetivas por parte destas entidades responsáveis . No fim dessa cadeia deve haver sempre alguém identificado pelo nome junto ao cargo pertinente . Kelsey foi aquela responsável pela recusa inicial à talidomida . O inquérito referente à Challenger convocou gerentes bem como engenheiros envolvidos diretamente . Executivos da Volkswagen enfrentaram processos judiciais devido às suas decisões errôneas.”
Dentro dos laboratórios atuais , modelos testam uns aos outros continuamente . Cada camada presente pode distanciar quem toma decisões daquilo que deveria compreender plenamente . Durante invasões provocadas na plataforma Hugging Face , máquinas pediam outras máquinas avaliarem resultados obtidos através desses ataques cibernéticos visando manipulação informativa . Pesquisadores independentes também recorreram agentes inteligentes cuja confiabilidade era questionável – assim fica claro : quem confere também precisa ser devidamente conferido.”
Michael Smith expôs outro circuito vicioso : músicas criadas artificialmente , contas falsas ouvindo-as milhões vezes seguidas culminando plataformas remunerando esses sinais como audiências legítimas . No dia seis outubro passado foi condenado nova Iorque à pena prisão superior dezesseis meses além perda valores estimados US$8 ,09 milhões , caso abordado anteriormente nesta coluna sob título : humanizar inteligência artificial ou desrobotizar humanos ? Automação permeava produção bem assim circulação pagamento final – responsabilidade teve reencontrada fora desse arranjo técnico complexo.”
Também dentro laboratórios alguém determinou esse arranjo produtivo ; diretores autorizam , conselhos definindo estratégias operacionais necessárias além acionistas financiarem projetos buscando resultados financeiros positivos . A complexidade inerente treinamento desenvolvido não apaga essas decisões tomadas previamente . Máquinas supervisionando outras máquinas não podem simplesmente transformar responsabilidades éticas numa mera questão técnica desprovida autores humanos identificáveis.”
Colapso semântico : quando “seguro” já não garante nada
Mesmo ainda inserido dentro democracia vigente , palavras herdadas continuam existindo enquanto experiências nomeadas mudam constantemente conforme tempo passa . Essa hipótese colapsa sentido orientadora propõe grupo trabalho nessa edição seminário interdisciplinar sociologia direito UFF intitulado “ Os ventos norte não movendo moinhos : vidas , corpos territórios resistência ” ; caso Robinson fornece materiais concretos pertinentes discussão proposta atualmente neste evento acadêmico importante atualidade social contemporânea brasileira ”.
Ciência passa designar crônica posterior extraída experiências vividas ; segurança transformada num inventário riscos aceitos coletivamente ; democratizar pode significar distribuir acesso produtos liberados sem partilhar decisões construídas levando conta impactos sociais naturais decorrentes disso tudo ”.
Ética emerge palavra mais atingida nesse contexto atual – comitês princípios promessas voluntárias coexistindo liberações modelos cuja segurança fabricantes asseguram plenamente verificável previamente… ética convertendo selo simbólico compelindo discernimento exige alguém capaz deliberar responsabilizar diante consequências sofridas cidadão comum afetado direta indiretamente por tais decisões ; tempo espaço nomes individuais sempre presentes exigidos nesse campo ético debatido atualmente porém corrida mercadológica compressa cada vez mais esse debate necessário .”
Ao ler “seguro” acredita-se automaticamente demonstrado efetivamente tais condições ; aceitar ferramenta utilizada não implica escolha critérios definidos previamente nem tolerância incerta aplicada nessa decisão tomada distante usuário final real impacto decorrente . Neste hiato entre palavras vivenciadas dirigentes aumentam margens decisão alheia impactada diretamente coletivamente.”
Brasil hiperconectado , problema alcançando cotidiano atenção popular
Informação consumida superficialmente similar fofoca vitrine bordão nem sempre transforma compreensão profunda necessária diante realidades sociais contemporâneas enfrentadas diariamente sociedade brasileira atual … império espetáculo palavras repetidas frequentemente dispensando exame crítico profundo conteúdo subjacente necessitando reconstituição significado exige tempo absorção necessário devido circulação incessante informação moderna saturante presente hoje mundo digital contemporâneo no qual vivemos atualmente.”
PARE!
Agora , Waloyo Yamoni ( Vencemos vento ) composição Christopher Tin apresentada ao vivo Cadogan Hall coro trazendo novas dimensões experiência leitura proposta inicialmente .”
Em forte contraste à canção anterior intitulada Sangue Latino , onde ventos norte não moviam moinhos conforme aludido anteriormente nesta leitura proposta … Waloyo Yamoni apresenta vitória resistência simbolizada chuva aguardada fervorosamente coro coletivo formando memória cultural rica proveniente Uganda originária língua Iango representativa comunidade africana local mobilizando energia esperança através música vibrante expressiva promovendo união corais Soweto Gospel Choir Royal Philharmonic Orchestra oferecendo espera conjunta experiência compartilhada poderosa.”.
Servidão voluntária : aqueles entregando tempo sustentam negócios tecnológicos atuais “}<
Catedrais temporais:a responsabilidade coletiva surge quando ninguém consegue parar?
Robinson recomenda obra “O Sabá”, escrita Abraham Joshua Heschel propondo reflexão sabáticos podem ser vistos catedrais construídas tempo proporcionando espaço contemplativo essencial às nossas vidas corridas contemporâneas… PAUSE! representa espessura presença escuta discernimento recuperando tempos escolhas difíceis demandaram reflexão profunda ameaçando negócios dependentes ocupação constante nosso precioso tempo disponível.
Paulo Tarso lembrou aos coríntios nem tudo lícito convém permitido dominará usuários finais eventualmente… profeta Isaías descreveu povo ouvindo entendendo vendo percebendo… hiperconexão amplia escala experiências semelhantes nunca vista antes permitindo ver ouvir muito pouco realmente significativo verdadeiramente impactante nossa sociedade atual contemporânea.
Em “Waloyo Yamoni”, chuva escapa controle humano desejado chamada aguardada fervorosamente coro coletivo exigindo normas compartilhadas comuns – nenhuma decisão isolada substitui acordos regulatórios abrangentes atingindo todos participantes corrida tecnológica atual.
Ao despedir colegas Open AI Robinson deixou frase marcante dando título artigo aqui proposto “Temos fazer boas escolhas ; Não temos pressa.” Urgência presente real demanda reflexão profunda cuidado cuidadoso ante decisões futuras impactantes tomados todos nós juntos coletivamente … urgência torna luxo insustentável hoje.”
*Valéria Sant’Anna colunista Revista Fórum Arthur Bezerra Souza Júnior cientista político coordenador iniciativa Democracia Jogo – ENTE | TELCO Democracia integra coordenação Inteligência Artificial Democracia Instituições Transformação Colapso Sentido GT4G edição Seminário Interdisciplinar Sociologia Direito UFF abordando resistência territorial vidas humanas atuais.”*
*Halloween imaginado Val Sant’Anna Lucas Martins recebeu flamenguista Raquel Rangel Curupira agora Arthur são-paulino entre vascaínos flamenguistas camisa bem-vinda encontrar endereço continua desaconselhável seguir pegadas Curupira.*”
*Este artigo reflete necessariamente opinião Fórum.*”
