Dúvida metódica sobre a falácia artificial
«Alinhamento» é apenas um eufemismo para viés de complacência. E o viés anti-elogio também produz uma deformação do output.
Não tornei a IA mais inteligente. Não sei fazê-lo. E uma falha estrutural não se corrige pedindo por favor. Assumi a falha e contornei-a: governo-a a partir de fora.
Crítica da falácia artificial, ou como pôr a culpa nas máquinas.
One-Of-Us tem um motor determinista, um Seletor Dinâmico de Estratégia que aproveita a força do adversário (os sedutores vieses) em prol da qualidade da resposta.
O equilíbrio e o limiar
A integridade do output tensiona-se contra um único custo. Resolvo esse dilema matematicamente, sobre uma frente de Pareto. É a única forma lógica de o fazer.
Não há nenhum número mágico para manipular. Os humanos que configuram a implementação decidem o que importa: os pesos são deles (e a responsabilidade também), e qualquer um pode ser zero. O sistema pesa as forças, devolve um único veredicto e compara-o com uma linha que eles traçaram. Abaixo dessa linha não improvisa: para e eleva a questão a uma pessoa. Determinista mesmo —sobretudo— quando te diz que não sabe.
E o que quase ninguém vê: dois ou mais modelos a coincidir não é um veredicto confirmatório. Pensa que partilham dataset e objetivos comerciais. Por isso penalizo o erro correlacionado e dou-lhes mais tráfego quando acertam. Mas são, em todo o momento, cegos ao estado do objeto que processam.
Alguns componentes do vetor de ativação de estratégia nem sequer têm acesso ao input — apenas a outputs intermédios e a uma tabela de governança versionada, com a qual injetamos 'realidade' no raciocínio global.
Facto nu e cru: a maioria nem sempre tem razão.
Serendipidade.
Desenhei a arquitetura sem conhecer o quadro regulatório europeu. Coincidimos em rastreabilidade (a minha é determinista, fácil) e supervisão humana estruturada.
Um varrimento da normativa internacional levou-me a acrescentar o Zero Data Retention e a emissão de subtipologias específicas de erro (falta-me decidir se isto será feito por uma IA ou por uma humana).
O que queres fazer quanto a isso?
A parte mais honesta. Há anos que dou voltas a isto e tenho a arquitetura, mas sou investigadora independente. O sistema está publicado como prior art no Zenodo, CC BY 4.0: lê-o, cita-o, discute-o. A referência está no rodapé desta página.
E se isto se revelar maior do que uma só pessoa, não vou pluralizar nem fingir o contrário. Procuro um sócio técnico ou estratégico com músculo.
Se partilhas o meu ceticismo — Diz alguma coisa