De drie wetten van de robotica door Rodney Brooks

Rodney Brooks is de Panasonic Professor of Robotics (emeritus) aan het MIT, waar hij directeur was van het AI Lab en daarna van CSAIL. Hij was medeoprichter van iRobot, Rethink Robotics en Robust AI, waar hij momenteel CTO is. Dit artikel wordt met toestemming van zijn blog gedeeld.

Hier zijn enkele dingen die ik heb geleerd over robotica nadat ik bijna vijf decennia in het veld heb gewerkt. Ter ere van Isaac Asimov en Arthur C. Clarke, mijn twee sciencefictionschrijvers uit mijn kindertijd, noem ik ze mijn drie wetten van de robotica.

1. Het uiterlijk van de robot belooft wat hij kan en hoe slim hij is. Die belofte moet worden nagekomen of enigszins worden overtroffen, anders wordt deze niet geaccepteerd.
2. Wanneer robots en mensen naast elkaar in dezelfde ruimtes bestaan, mogen de robots de menselijke keuzevrijheid niet wegnemen, vooral niet als de robots falen, wat soms onvermijdelijk zal gebeuren.
3. Robottechnologieën hebben meer dan 10 jaar voortdurende verbetering nodig, afgezien van laboratoriumdemonstraties van doeltaken, om te kunnen rijpen tot lage kosten en om hun beperkingen goed genoeg te karakteriseren om 99,9 procent van de tijd te kunnen leveren. Elke extra 10 jaar wint het nog eens een 9 in betrouwbaarheid.

Hieronder licht ik elk van deze wetten nader toe. Maar in een gerelateerd bericht staan ​​hier mijn drie wetten van kunstmatige intelligentie.

Merk op dat deze wetten zijn geschreven vanuit het standpunt dat robots in de echte wereld opereren, waar mensen ervoor betalen en waar mensen rendement op hun investering willen. Dit is heel anders dan het demonstreren van robots of robottechnologieën in een laboratorium.

In het lab staat een schare afgestudeerde studenten die graag willen pronken met hun nieuwste idee, waar ze hard aan hebben gewerkt, om de plausibiliteit ervan aan te tonen. Hun belang is om aan te tonen dat de techniek of technologie die zij hebben ontwikkeld plausibel en veelbelovend is. Ze zullen er alles aan doen om de robot te voeden door middel van een demonstratie om dit te bereiken, en zullen graag alles uitleggen over wat ze hebben ontwikkeld en wat er mogelijk nog gaat komen.

In de echte wereld is er alleen de klant, of een werknemer of familielid van de klant. De robot moet werken zonder externe tussenkomst van de mensen die hem hebben ontworpen en gebouwd. Het moet een goede ervaring zijn voor de mensen om hem heen, anders wordt er niet meer verkocht aan die en mogelijk andere klanten.

Deze wetten gaan dus niet over wat er gedaan zou kunnen of kunnen worden. Dit zijn echte robots die in de echte wereld worden ingezet. De wetten zijn niet van toepassing op onderzoeksdemonstraties. Het gaat over robots in het dagelijks leven.

Een belofte gemaakt door uiterlijk

Mijn verschillende bedrijven produceerden allerlei soorten robots en verkochten ze in grote hoeveelheden. Er wordt veel aandacht besteed aan het uiterlijk van een robot wanneer deze wordt ontworpen, omdat deze de klant of gebruiker vertelt wat hij ervan kan verwachten.

De iRobot Roomba is zorgvuldig ontworpen om uiterlijk en functionaliteit te combineren.iStock

De Roomba, van iRobot, ziet eruit als een platte schijf. Reinigt de vloeren. De vorm van de schijf was zodanig dat hij ter plekke kon ronddraaien zonder iets te raken dat hij nog niet had geraakt. Door het lage profiel van de schijf kon hij in keukens onder de tenen komen en de vloer schoonmaken die slechts een klein beetje boven de keukenkastjes uitsteekt. Het lijkt er niet op dat hij de trap op en af ​​kan gaan, of zelfs maar één trede omhoog of omlaag in huis, en dat kan ook niet. Er zit een handvat aan, waardoor het lijkt alsof iemand hem kan oppakken, en dat is ook zo. In tegenstelling tot de fictieve robot Rosey ziet hij er niet uit alsof hij ramen kan schoonmaken, en dat doet hij ook niet. Het maakt de vloeren schoon en dat is alles.

Packbot, een op afstand bestuurbare militaire robot, ook van iRobot, zag er heel anders uit. Hij heeft wielen op rupsbanden, zoals een miniatuurtank, en dat uiterlijk belooft iedereen die ernaar kijkt dat hij over ruw terrein kan rijden en niet zal worden tegengehouden door trappen, rotsen of vallen in het terrein. Toen de ramp in Fukushima in 2011 toesloeg, konden Packbots werken in reactorgebouwen die waren vernield en verwoest door de tsunami, door op afstand bediende deurknoppen te openen, met puin bedekte trappen te beklimmen en hun camera’s op analoge druk- en temperatuurmeters te richten dat arbeiders die probeerden de kerncentrale veilig te houden enige gegevens hadden over wat er gebeurde in de zeer radioactieve gebieden van de centrale.

De iRobot PackBot neemt een demonstratiefaciliteit over van het Joint Robotics Repair Detachment in het Victory Base Complex, Bagdad, Irak.Alamy

Het punt van deze eerste wet van de robotica is om te waarschuwen dat de robot niet meer lijkt te zijn dan hij in werkelijkheid is. Misschien zorgt het ervoor dat uw bedrijf wordt gefinancierd door vooraanstaande investeerders, zodat ze geloven dat de robot uiteindelijk alles zal kunnen doen wat zijn fysieke verschijning doet vermoeden. Maar het zal klanten teleurstellen als het niet de dingen kan doen die iets met die fysieke verschijning wel kan. Door de robot glad te strijken bestaat het risico dat er te veel wordt beloofd wat de robot als product daadwerkelijk kan doen. Hierdoor bestaat het risico dat klanten teleurgesteld worden. En teleurgestelde klanten zullen geen voorstanders van uw product/robot zijn, en ook geen terugkerende klanten.

Agentschap voor het behoud van het volk

Het ergste dat een robot op de werkvloer kan doen voor menselijke acceptatie, is hun werk of leven moeilijk maken door hen niet te laten doen wat ze moeten doen.

Robots die in ziekenhuizen werken en vuil linnengoed of serviesgoed van de vloer van de patiënt dragen naar de plek waar ze schoongemaakt moeten worden, zijn bedoeld om het leven van verpleegkundigen gemakkelijker te maken. Maar vaak doen ze precies het tegenovergestelde. Als de robots zich niet bewust zijn van wat er aan de hand is en niet uit de weg gaan als er een noodgeval is, zullen ze waarschijnlijk een deel van het levensreddende werk van verpleegkundigen blokkeren. een karretje met een ernstig zieke patiënt voortduwen naar de plaats waar deze moet zijn voor een spoedbehandeling. Het ziekenhuispersoneel houdt niet van zo’n robot. Dit belemmerde hun belangrijkste taak, waar het personeel trots op is en die hen motiveert om dergelijk werk te doen.

Minder, maar nog steeds onaanvaardbaar gedrag van robots in ziekenhuizen is het wachten voor de liftdeuren, de centrale, en mensen blokkeren. Het is moeilijker voor mensen om bepaalde dingen te doen die ze in die omgeving altijd moeten doen: in en uit een lift stappen.

Degenen onder ons die in San Francisco of Austin, Texas wonen, hebben uit de eerste hand een beeld gehad van de robots die mensen de afgelopen jaren dagelijks irriteren. De robots in kwestie waren autonome voertuigen die zonder mensen door de stad reden. Ik zie deze robots elke keer als ik het huis verlaat, te voet of met de auto.

Het was bekend dat sommige voertuigen kruispunten blokkeerden, terwijl andere bestuurders, voetgangers of de politie absoluut niets konden doen. We moesten gewoon wachten totdat een telefoniste, diep verborgen in het bedrijf dat ze had ingezet, besloot om aandacht te besteden aan het vastzittende voertuig en het uit de weg te ruimen. Erger nog, ze dwaalden af ​​naar een brandscène waar brandweerwagens en brandweerlieden stonden en echte gebouwen die in brand stonden, raakten in de war en stopten gewoon ergens bovenop de brandslangen.

Brandweerlieden konden de voertuigen niet verplaatsen of met hen communiceren. Dit in tegenstelling tot een auto die wordt bestuurd door een menselijke bestuurder. Brandweerlieden kunnen hun normale sociale interactie gebruiken om met de bestuurder te communiceren, en hun bevoorrechte positie in de samenleving als eerstelijnshulpverleners gebruiken om sociale druk uit te oefenen op de menselijke bestuurder om met hen samen te werken. Dat geldt niet voor autonome voertuigen.

Autonome voertuigen hebben mensen ontkracht die hun normale werk op straat konden doen, maar erger nog, ze hebben brandweerlieden, wier rol het is om andere mensen te beschermen, ontkracht. Ingezette robots die mensen niet respecteren en niet respecteren wat ze moeten doen, zullen geen respect van mensen krijgen en de robots zullen uiteindelijk niet worden ingezet.

Robuuste robots die altijd werken

Het is moeilijk om robots te maken die betrouwbaar werken in de echte wereld. In feite is het heel moeilijk om iets te maken dat fysiek in de echte wereld werkt en betrouwbaar is.

Wil een klant tevreden zijn met een robot, dan moet deze elke keer dat hij een taak probeert te werken, anders zal het de gebruiker zo frustreren dat hij zich afvraagt ​​of het zijn leven nu beter zal maken of nu.

Maar wat doet het? verschijnen Ik bedoel hier? Dit betekent dat de gebruiker ervan uit kan gaan dat het zal werken, als standaardbegrip van wat er in de wereld zal gebeuren.

Het moeilijkste is om de robots te laten communiceren met de echte fysieke wereld.

Softwareprogramma’s werken samen met een goed begrepen abstracte machine, zodat ze niet de neiging hebben om op een zodanige manier kapot te gaan dat de instructies daarin niet op een consistente manier worden uitgevoerd door de hardware waarop ze worden uitgevoerd. Deze zelfde programma’s kunnen ook communiceren met de fysieke wereld, of het nu een mens, een netwerkverbinding of een invoerapparaat zoals een muis is. Dan zouden de programma’s kunnen mislukken omdat de instructies daarin gebaseerd waren op aannames uit de praktijk waaraan niet werd voldaan.

Robots zijn onderhevig aan krachten uit de echte wereld, zijn onderhevig aan de exacte positie van objecten ten opzichte van hen, en zijn onderhevig aan interactie met mensen die zeer variabel zijn in hun gedrag. Er zijn geen teams van afgestudeerde studenten of jonge ingenieurs die graag willen dat de robot slaagt in 8.354. probeer hetzelfde te doen dat al zo vaak heeft gewerkt. De echte uitdaging in de robotica is om software te krijgen die zich adequaat aanpast aan de onzekere veranderingen in de wereld in dat specifieke geval en op dat moment.

Goed uitziende video’s zijn niet altijd hetzelfde als werken voor de klant. Het meeste van wat we in het nieuws over robots zien, zijn laboratoriumdemonstraties. Er is geen informatie over hoe algemeen de oplossing is, noch hoe lang het duurde voordat de video werd weergegeven. Erger nog, soms worden de video’s op afstand bestuurd of meerdere keren versneld.

Zelden heb ik een nieuwe technologie, die minder dan tien jaar verwijderd is van een laboratoriumdemonstratie, in een ingezette robot zien veranderen. Het kost tijd om te zien hoe goed de methode werkt en om deze zo goed te karakteriseren dat het onwaarschijnlijk is dat deze kapot gaat in een ingezette robot die alleen in de echte wereld draait. Zelfs dan zullen er mislukkingen zijn, en het zal nog vele jaren duren om de probleemgebieden uit de weg te ruimen en deze defensief in het robotproduct in te bouwen, zodat mislukkingen niet opnieuw voorkomen.

De meeste robots hebben een kill- of stopknop nodig voordat een mens ze kan uitschakelen. Als de klant ooit de behoefte voelt om op die knop te drukken, hebben de mensen die de robot hebben gebouwd en verkocht gefaald. Ze hebben het niet zo goed laten werken dat de robot nooit in een toestand zou komen waarin er dingen mis zouden gaan.