$ROBO Uzticības problēma autonomajās mašīnās
Kad roboti kļūst arvien autonomāki, sāk parādīties klusa jautājuma.
Kā mēs uzticamies tam, ko dara mašīnas?
Tradicionālās programmatūras sistēmās verifikācija bieži ir vieglāka. Ir pieejami žurnāli. Kodu var audzēt. Izvadi dažreiz var tikt atkārtoti reproducēti.
Fiziskās mašīnas ir atšķirīgas.
Sensori var nepareizi lasīt apkārtni. Modeļi uzvedas neparedzami. Divi roboti, kas sastop to pašu situāciju, var radīt atšķirīgus rezultātus.
Es pēdējā laikā esmu domājis par šo problēmu. Jo vairāk autonomijas mašīnas iegūst, jo svarīgāka kļūst verifikācija.
Tāpēc daļēji koncepts, ko izpētījusi @Fabric Foundation , piesaistīja manu uzmanību.
Fabric pēta infrastruktūru, kur robotikas sistēmas varētu paļauties uz pārbaudāmu aprēķinu un kopīgām koordinācijas slāņiem.
Protams, verifikācija robotikā ir tālu no vienkāršas.
Tomēr uzticības problēma ap autonomajām mašīnām kļūst arvien grūtāk ignorējama.