$ROBO Das Vertrauensproblem in autonomen Maschinen
Während Roboter autonomer werden, beginnt eine stille Frage zu erscheinen.
Wie können wir vertrauen, was Maschinen tun?
In traditionellen Softwaresystemen ist die Überprüfung oft einfacher. Protokolle existieren. Code kann geprüft werden. Ausgaben können manchmal reproduziert werden.
Physische Maschinen sind anders.
Sensoren können Umgebungen falsch lesen. Modelle verhalten sich unvorhersehbar. Zwei Roboter, die sich in derselben Situation befinden, könnten unterschiedliche Ergebnisse liefern.
Ich habe in letzter Zeit über dieses Problem nachgedacht. Je mehr Autonomie Maschinen gewinnen, desto wichtiger wird die Überprüfung.
Das ist teilweise der Grund, warum das Konzept, das von @Fabric Foundation erkundet wird, meine Aufmerksamkeit erregt hat.
Fabric erkundet eine Infrastruktur, in der Robotiksysteme auf überprüfbare Berechnungen und gemeinsame Koordinationsschichten angewiesen sein könnten.
Natürlich ist die Verifizierung in der Robotik alles andere als einfach.
Dennoch wird das Vertrauensproblem rund um autonome Maschinen immer schwerer zu ignorieren.