Josephine entstand aus einem einfachen Problem: Folgenreiche KI-gesteuerte Arbeit kann sich schneller bewegen, als das Management verstehen kann, was schiefläuft. Der Zweck ist ebenso einfach: die Arbeit innerhalb vom Unternehmen autorisierter Grenzen schützen und Zeit schaffen, damit das Management verstehen und reagieren kann.
Je mehr folgenreiche Arbeit an zunehmend autonome Systeme delegiert wird, desto eher kann die Organisation noch rekonstruieren, was passiert ist, während die Arbeit weiterläuft.
Josephine wird als evidenzgetriebene Schutzebene um folgenreiche Arbeit gebaut. Sie braucht keine offenen Befugnisse und verlangt nicht, dass das Management jeden Agenten versteht, bevor Schutz beginnen kann.
Josephine wurde durch wiederholte kontrollierte Challenges, bewahrte Checkpoints und explizite Grenzen dessen entwickelt, was jeder Test tatsächlich zeigte.
Fähigkeiten werden herausgefordert, bevor sie als akzeptiertes Verhalten gelten.
Fehlende Evidenz und ungeklärte Bedingungen werden nicht in bequeme Gewissheit umgewandelt.
Das Unternehmen definiert, was Josephine tun darf. Josephine erfindet keine neue Befugnis, wenn sich Bedingungen verschlechtern.
Synthetische Evidenz, Engineering-Bereitschaft und künftige Nachweise aus realen Unternehmen bleiben klar getrennt.
Ein fehlgeschlagener Test, eine nicht verfügbare Kontrolle, eine unbestätigte Anwendung oder unzureichende Evidenz sind Informationen. Josephines Entwicklungsdisziplin besteht darin, diese Informationen zu bewahren, statt das System sicherer erscheinen zu lassen, als es ist.
Josephine wird innerhalb von ASI-Veritas von Daniel Nicolas entwickelt, mit Fokus auf eine operative Frage: Wie kann folgenreiche KI-gesteuerte Arbeit geschützt bleiben, wenn Aktivität in Maschinengeschwindigkeit die Überwachung in Menschengeschwindigkeit überholt?
Die Arbeit wurde iterativ entwickelt, wobei akzeptierte Tests bewahrt statt stillschweigend umgeschrieben wurden und bewusst zwischen dem unterschieden wird, was Josephine gezeigt hat, und dem, was noch Evidenz aus einem realen Unternehmen erfordert.
Josephine soll das Urteil des Managements nicht ersetzen. Ihre Rolle ist, folgenreiche Arbeit innerhalb delegierter Befugnisse zu schützen und Zeit zu bewahren, damit die folgenreiche Entscheidung bei Menschen bleibt.
Josephine hat Engineering- und Paketbereitschaft erreicht, um einen überwachten MVP-Pilot mit einem autorisierten Unternehmens-Workflow zu beginnen.
Das ist ein bedeutender Meilenstein, aber nicht dasselbe wie ein Nachweis von Josephine in einem realen Unternehmen.
Der nächste Schritt ist ein kontrollierter Pilot mit einem folgenreichen Workflow unter Verwendung realer, vom Unternehmen definierter Identität, Evidenzquellen und delegierter Befugnis.
Reale Kompatibilität und operative Wirkung müssen durch diese Arbeit noch nachgewiesen werden.
Wenn Ihr Unternehmen folgenreiche KI-gesteuerte Arbeit hat, bei der Verschlechterung bedeutende geschäftliche Folgen haben könnte, beginnt das Gespräch mit dem Workflow, nicht mit einem Registrierungsformular.
Kontrollierten Pilot besprechen