ooU  one-of-us
关于作者 Elizabeth Ibáñez Justicia

项目状态:二元。

设计这个方案让我乐在其中。这不可能算是工作。

开头很奇怪。这个方案看起来如此显而易见,以至于肯定早就有人想到了。一个确定性的仲裁者,实时编排各个生成式AI。而它们对所处理对象的状态是盲的。

系统并不完美。尽管它在概念上捕捉了生成式AI的常见行为错误,仍存在残余错误率。意识到这一点让我停顿了一周。One-Of-Us在运行时检测相关性错误;而在投产前主动预测所有情况仍是未解问题。我可以知道它们历史上在哪里一起失败过,把它们撤出组件池,在放回生产之前进行测试。也可以在固定种子的同时调高对抗性AI的温度。但我无法保证100%的错误检测,这是实话。其余的审计LLM、布尔模块和一套(我认为)不错的质量管理体系可以缓解这种错误。但无法消除它。不过,如果系统通过人类的介入从现实中获得反馈,它会趋向完美。完美的程度,取决于负责人心中现实模型的完美程度。

在验证了底层数学设计之后,我探索了不同的理论商业化路径,研究了架构的部署轨迹:公共与私人融资、技术平台推广、技术转移、陌生拜访、在专业网络中的深度参与,等等。我没有社交网络。养猫老太太的怪癖。

我独自一人在人工智能行为上达到重要的技术深度,这很反常。它听起来像疯话,这让我怀疑。我既不能否认,也不能绝对肯定。毕竟,这是一个建立在“AI会出错”之上的系统,由概率性AI和我自己验证(并在开发过程中推翻)。麻烦就在这儿。我与市场脱节。我住在一个精确的宇宙里。所以我没有人脉。我本期望我的工作能为自己说话。但传达其内容的初始困难、对我自身讨好偏差的方法性怀疑,以及先前信誉的缺失,加在一起,让天平倾斜。这也压在我心头。

我质疑过系统的经验同构性。只有一次严格而客观的概念验证(PoC),才能证明数据完整性的提升、人工监督的结构化和错误率的下降,是否足以证明实施及其增加的计算成本是值得的。要传达一个复杂的问题和一个与之相称的解决方案,无论多么力求通俗,都很困难。所以我决定制作视频,展开我多年与概率性AI打交道中发现的问题。这在我看来是最自然、最诚实的做法。也是我在数月过度专注于架构之后最想做的事。

一切皆有可能。