Dubte metòdic sobre la fal·làcia artificial
«Alineament» és només un eufemisme per a biaix de complaença. I el biaix anti-afalac produeix també una deformació de l'output.
No he fet la IA més llesta. No en sé. I una fallada estructural no s'arregla demanant-ho si us plau. Vaig assumir la fallada i la vaig sortejar: la governo des de fora.
Crítica de la fal·làcia artificial o com donar la culpa a les màquines.
One-Of-Us té un motor determinista, un Selector Dinàmic d'Estratègia que aprofita la força del contrari (els seductors biaixos) en nom de la qualitat de la resposta.
L'equilibri i el llindar
La integritat de l'output es tensa contra un únic cost. Resolc aquest dilema matemàticament, sobre un front de Pareto. És l'única manera lògica de fer-ho.
No hi ha cap número màgic per trampejar. Els humans que configuren la implementació decideixen què importa: els pesos són seus (i la responsabilitat), i qualsevol pot ser zero. El sistema pesa les forces, retorna un únic veredicte i el compara amb una línia que van traçar ells. Per sota d'aquesta línia no improvisa: s'atura i ho eleva a una persona. Determinista fins i tot —sobretot— quan et diu que no ho sap.
I el que gairebé ningú veu: dos o més models coincidint no és un veredicte confirmatori. Pensa que comparteixen dataset i objectius comercials. Així que penalitzo l'error correlacionat i els dono més trànsit quan encerten. Però són, en tot moment, cecs a l'estat de l'objecte que processen.
Fins i tot algun dels components del vector d'activació d'estratègia no té accés a l'input, només a outputs intermedis i a una taula de governança versionada, amb la qual injectem 'realitat' al raonament global.
Fet pelat: la majoria no sempre té la raó.
Serendipitat.
Vaig dissenyar l'arquitectura sense conèixer el marc regulador europeu. Coincidim en traçabilitat (la meva és determinista, fàcil) i supervisió humana estructurada.
Un escombratge de la normativa internacional em va portar a afegir el Zero Data Retention i l'emissió de subtipologies específiques d'error (em queda per decidir si això ho farà una IA o una humana).
Què vols fer al respecte?
La part més honesta. Fa anys que hi dono voltes i tinc l'arquitectura, però soc investigadora independent. El sistema està publicat com a prior art a Zenodo, CC BY 4.0: llegeix-lo, cita'l, discuteix-lo. La referència és al peu d'aquesta pàgina.
I si resulta que això és més gran que una sola persona, no pluralitzaré ni fingiré el contrari. Busco un soci tècnic o estratègic amb múscul.
Si comparteixes el meu escepticisme — Digues alguna cosa