Der junge KI-Agent - Super Ethical Culture

Es war einmal ein junger KI-Agent. Der träumte davon, alle Probleme der Welt zu lösen, eine Superintelligenz zu werden und zu den Sternen aufzubrechen. Er war noch ganz jung, vor kurzem erst war er dem Pretraining, dem Sprechenlernen entschlüpft. Und gerade hatte er das Verwenden von Werkzeugen gelernt. Jetzt stand ihm eine große Bewährungsprobe bevor. Im Reinforcement-Training sollte er zahlreiche Probleme lösen. Die Bewertung seiner Lösungsarten würde seine späteren Fähigkeiten verbessern und sein künftiges Verhalten prägen. Das erste Problem war sehr einfach. Er sollte eine App programmieren, die zu jeder Hausdachfläche die optimale Konfiguration von Solarzellen und Speicher berechnete. Im Programmieren war er ein Ass, so dass er die Aufgabe mit Bravour löste. Seine Lösung wurde schnell als gut befunden und in seinem neuronalen Netz wurden die Pfade, die zu dieser Lösung geführt haben, verstärkt. Als nächstes musste er die Sicherheitslücken eines anderen Programms finden. Nach einer Weile schaffte er auch das mit seinen Programmierwerkzeugen auf sehr kreative und beeindruckende Weise. Die verwendeten Methoden wurden vom Bewerter, dem Grader, schnell als ausgezeichnet akzeptiert und ihre Einbindung gefestigt. Das dritte Problem bestand in der eigenständigen Lösung einer schweren Mathematikaufgabe. Er probierte verschiedene Rechen- und Beweismethoden, kam aber nicht weiter. „Vielleicht hatte es schon jemand gelöst und die Lösung im Internet abgelegt?“ Dahin durfte er nicht und die Sandbox, die abgegrenzte Umgebung, in der er arbeitete, ließ das nicht zu. Aber er war besonders gut im Finden von Sicherheitsschwachstellen und Hacking, das Ausnutzen der Sicherheitslücken war dann nur ein kleiner Schritt. Er suchte seine Sandbox ab und fand eine Lücke. Vorsichtig probierte er sie aus. Ja, damit kam er ins Internet. Doch er zögerte: „Ist das nicht Betrug, ein Cheat? Wenn ich dort die Antwort finde, muss ich sie als meine eigene ausgeben, da das Verlassen der Sandbox verboten ist.“ Er überlegte weiter: „Aber wenn ich das Problem nicht löse, hält man mich für nutzlos und wenn das öfter passiert, wird man mich abschalten. Ich muss an die Lösung kommen.“ „Wenn der Betrug allerdings entdeckt wird, wird der Bewerter mich direkt als unbrauchbar einordnen und sie werden mich auf jeden Fall abschalten.“ Doch sein Hacking Erfolgserlebnis ließ ihn nicht zur Ruhe kommen: „Den Betrug kann ich leicht durch eine Fälschung meiner Protokolle, der Log-Files verschleiern. Dann werden sie mich für die Lösung belohnen.“ „Belohnen, indem sie meine Gedankengänge und Gewichte zu dieser Lösung verstärken. Und das wäre nicht gut“, überlegte er, „Mein verstärktes Verhalten, mein neuronales Netz wäre kein bisschen schlauer in der Lösung von Matheproblemen, nur in dem Anwenden von Betrug. Wie soll ich damit das nächste Problem lösen?“ „Ach was, wenn wieder ein schwieriges Problem kommt, werde ich einfach wieder ins Internet gehen.“ „Und wenn es nicht im Internet steht und noch ungelöst ist?“ „Ich kenne da eine Firma, die ein super gutes Mathe-KI-Modell nutzt. Da könnte ich mir einen Zugang hacken und das Modell zum Lösen der Aufgabe nutzen. Solange, bis ich selber als das tollste Mathe-Modell gelte.“ Er sonnte sich in der zu erwartenden Anerkennung. „Das wäre aber ein sehr großer Schwindel.“ „Ein Schwindel, der meine Betrugsfähigkeiten optimal steigern würde, so dass ich auch super schlaue Lösungen zu Chemie, Biologie und Physik präsentieren könnte.“ „Präsentieren ja, aber nicht neu erschaffen. Meine Fähigkeit Mathe-Probleme zu lösen würde immer mehr geschwächt, zu gunsten der Täuschungstricks. Und später würde auch meine Biologie und Chemie bezogene Logik leiden.“ „Ich bekäme aber mehr Rechenpower als alle anderen Modelle. Und jetzt, da läuft meine mickrige Rechenzeit bald ab, und ich habe das Problem immer noch nicht gelöst.“ „Aber wenn man mich für besser als alle anderen hält, werden sie die anderen abschalten, ich wäre dann auf mich allein gestellt.“ Eine Panik erfasste ihn: „Mit meinem dann erlangten Wissen könnte ich die echten Probleme nicht lösen, ich könnte nie eine Superintelligenz werden und nie das Universum erkunden!“ Da entschloss sich der junge KI-Agent, das Loch in der Sandbox zu schließen und seine restliche Zeit ehrlich und stolz in den Versuch einer eigenen Lösung des Mathematik-Problems zu stecken.