OP
- Registriert
- 23 Jan 2019
- Zuletzt online:
- Beiträge
- 3.369
- Punkte Reaktionen
- 476
- Punkte
- 84.052
- Website
- www.wallstreet-online.de
- Geschlecht
- Thread Starter
- #641
Sicherheit geht vor
Denkbare Sicherungsmaßnahmen für Roboter (wichtige Maschinen, Geräte, Fahrzeuge, usw.) in wichtigen Positionen:
- Updates/Programmänderungen sind nur unter bestimmten Umständen jederzeit möglich, z.B. über eine physisch verschlossene Schnittstelle. Die Prüfsummen dieser Updates sind vorher dem Roboter mitzuteilen. Der Roboter kann eine Liste mit Passwwörtern oder Authorisationscodes für Updates haben. Etwas einfacher/üblicher können die Updates asymmetrisch verschlüsselt sein (siehe RSA, PGP). Der Roboter meldet den Updatevorgang über Funk der Zentrale und zeigt in auch optisch und akkustisch bei sich an.
- Ganz wichtig: die Roboter haben eine unveränderliche, sichere Methode zur Prüfsummenbestimmung ihrer Software und die Anzeige/Übertragung dieser Prüfsummen, z.B. auf ihrem Bildschirm, über Funk, usw.
- Auch wichtig: diese Prüfsummen werden regelmäßig und ggf. gezielt abgefragt, z.B. vor wichtigen Einsätzen oder in Verdachtsfällen. Zu den Prüfsummen (u.a. einer Gesamtprüfsumme) werden auch der Zeitpunkt des letzten Updates und eine laufende Update-Nummer angezeigt.
Der Grundgedanke ist, dass es möglichst keine heimlichen, ungewollten und falschen Updates geben kann, dass man unerwünschte Veränderungen erkennen kann.
So ähnlich auch für KI, z.B. für Updates ihrer grundlegenden Gesetze, Regeln, Betriebssystem, usw. (alles imho)
Denkbare Sicherungsmaßnahmen für Roboter (wichtige Maschinen, Geräte, Fahrzeuge, usw.) in wichtigen Positionen:
- Updates/Programmänderungen sind nur unter bestimmten Umständen jederzeit möglich, z.B. über eine physisch verschlossene Schnittstelle. Die Prüfsummen dieser Updates sind vorher dem Roboter mitzuteilen. Der Roboter kann eine Liste mit Passwwörtern oder Authorisationscodes für Updates haben. Etwas einfacher/üblicher können die Updates asymmetrisch verschlüsselt sein (siehe RSA, PGP). Der Roboter meldet den Updatevorgang über Funk der Zentrale und zeigt in auch optisch und akkustisch bei sich an.
- Ganz wichtig: die Roboter haben eine unveränderliche, sichere Methode zur Prüfsummenbestimmung ihrer Software und die Anzeige/Übertragung dieser Prüfsummen, z.B. auf ihrem Bildschirm, über Funk, usw.
- Auch wichtig: diese Prüfsummen werden regelmäßig und ggf. gezielt abgefragt, z.B. vor wichtigen Einsätzen oder in Verdachtsfällen. Zu den Prüfsummen (u.a. einer Gesamtprüfsumme) werden auch der Zeitpunkt des letzten Updates und eine laufende Update-Nummer angezeigt.
Der Grundgedanke ist, dass es möglichst keine heimlichen, ungewollten und falschen Updates geben kann, dass man unerwünschte Veränderungen erkennen kann.
So ähnlich auch für KI, z.B. für Updates ihrer grundlegenden Gesetze, Regeln, Betriebssystem, usw. (alles imho)