Wwat als de AI niet zo geweldig is? Wat als we het potentieel ervan in een ronduit gevaarlijke mate hebben overschat? Dat is de zorg van vooraanstaande kankerexperts van de NHS, die waarschuwen dat de gezondheidszorg zo geobsedeerd is door nieuwe technologie dat de veiligheid van de patiënt in gevaar komt. Uit ons verhaal gisteren:
In een scherpe waarschuwing zeggen kankerexperts dat “nieuwe oplossingen”, zoals nieuwe diagnostische tests, ten onrechte zijn aangeprezen als “magische kogels” voor de kankercrisis, maar dat “geen van deze oplossingen de fundamentele kwesties van kanker als een systemisch probleem aanpakt”.
Een ‘algemene misvatting’ van NHS-leiders is de veronderstelling dat nieuwe technologieën ongelijkheden kunnen omkeren, voegen de auteurs eraan toe. De realiteit is dat tools zoals AI “extra barrières kunnen opwerpen voor mensen met een slechte digitale of gezondheidsgeletterdheid”.
“Wij waarschuwen voor technocentrische benaderingen zonder solide evaluatie vanuit het perspectief van gelijkheid”, besluit het artikel.
Het artikel, gepubliceerd in het tijdschrift Lancet Oncology, pleit in plaats daarvan voor een terugkeer naar de basisbenadering van de behandeling van kanker. Zijn voorstellen richten zich op oplossingen zoals het aantrekken van meer personeel, het heroriënteren van onderzoek op minder trendy gebieden zoals chirurgie en radiotherapie, en het creëren van een speciale technologieoverdrachtseenheid, die ervoor zorgt dat behandelingen waarvan al is bewezen dat ze werken, daadwerkelijk onderdeel worden van de routinematige zorg.
Tegenover deze broodnodige verbeteringen kan AI een aantrekkelijke afleiding zijn. De belofte van de technologie is dat binnen een paar jaar een radicale toename van de mogelijkheden AI-technologie in staat zal stellen taken in de gezondheidszorg uit te voeren die momenteel niet kunnen worden uitgevoerd, of op zijn minst uren van de tijd van een hoogopgeleide specialist in beslag zullen nemen. . En de angst van deskundigen is dat deze belofte van de toekomst de aandacht afleidt van de veranderingen die vandaag nodig zijn.
Het presenteert AI in feite als het nieuwste voorbeeld van de ‘bionische eend’, een term die Stian Westlake in 2020 heeft bedacht om het gebruik, al dan niet opzettelijk, van technologie te dekken die al dan niet in de toekomst zal verschijnen en investeringen in het heden uitdaagt. De Hyperloop van Elon Musk is misschien wel het beroemdste voorbeeld van een bionische eend, die meer dan tien jaar geleden voor het eerst werd voorgesteld om Californië te ontmoedigen om verder te gaan met plannen voor de aanleg van hogesnelheidslijnen.
(De term komt uit een waargebeurd geval, waarin de Britse regering in 2007 het advies kreeg om de spoorwegen niet te elektrificeren omdat “we misschien… binnen vijftien jaar… waterstofaangedreven treinen hebben ontwikkeld op basis van een bionische eend… we misschien moeten nemen alle kabels zouden worden weggegooid en het zou allemaal verspild zijn. Zeventien jaar later blijft Groot-Brittannië dieselmotoren gebruiken op niet-geëlektrificeerde lijnen.)
Maar de zorgen van de krant over kunstmatige intelligentie – en de algemene technofilie van de gezondheidszorg – zijn meer dan alleen dat deze er misschien niet komt. Zelfs als AI vooruitgang begint te boeken in de strijd tegen kanker, kan het zonder de juiste basis minder nuttig zijn dan het zou kunnen zijn.
Terug naar artikel, citaat van hoofdauteur, oncoloog Ajay Aggarwal:
AI is een workflowtool, maar zal het de overleving daadwerkelijk verbeteren? Welnu, tot nu toe hebben we daar beperkt bewijs voor. Ja, het is iets dat potentieel de beroepsbevolking zou kunnen helpen, maar je hebt nog steeds mensen nodig die de anamnese van de patiënt afnemen, bloed afnemen, een operatie uitvoeren en slecht nieuws brengen.
Zelfs als AI zo goed is als we hopen, kan het op de korte termijn weinig betekenen voor de gezondheidszorg in het algemeen. Laten we zeggen dat AI het werk van radiografen aanzienlijk kan versnellen, door kanker eerder of sneller na een scan te diagnosticeren: dit betekent weinig als er knelpunten zijn in de rest van de gezondheidszorg. In het ergste geval kun je zelfs een soort van AI-gebaseerde denial-of-service-aanval tegenkomen, waarbij delen van de workflow die afhankelijk zijn van de technologie de rest van het systeem overweldigen.
Op de lange termijn hopen AI-boosters dat systemen zich zullen aanpassen om de technologie goed te integreren. (Of, als je er echt in gelooft, is het misschien gewoon een kwestie van wachten tot AI een ziekenhuis van begin tot eind kan vullen.) Maar op de korte termijn is het belangrijk om niet aan te nemen dat alleen maar omdat AI iets kan doen. . medische taken kunnen helpen het gezondheidssysteem in crisis te herstellen.
Digitale overheid
Vorige week hebben we gekeken naar enkele ideeën over wat de nieuwe regering aan technologie zou kunnen doen, en het ziet er goed uit voor ten minste één van die voorstellen. De nieuwe staatssecretaris van Wetenschap, Innovatie en Technologie, Peter Kyle, is nog maar een paar dagen in functie, maar het komt al in mijn inbox binnen. DSIT, zegt hij, zal:
Word een centrum voor digitale expertise en dienstverlening bij de overheid, en verbeter de manier waarop overheid en publieke diensten communiceren met burgers.
Wij zullen optreden als leider en partner binnen de gehele overheid, met de industrie en de onderzoeksgemeenschappen, om de economische prestaties van Groot-Brittannië te verbeteren en onze openbare diensten te versterken om de levens en levenskansen van mensen te verbeteren door de toepassing van wetenschap en technologie.
Concreet zal DSIT “ambtenaren helpen opleiden om beter gebruik te kunnen maken van digitale middelen en AI in hun eerstelijnswerk.” Vorige week riepen we Labour op om “de AI-regering serieus te nemen”; het lijkt erop dat ze dat al zijn.
na het promoten van de nieuwsbrief
Digitale collega’s
Aan de ene kant is dit duidelijk een publiciteitsstunt:
Lattice begeleidt een AI-medewerker door dezelfde processen die een menselijke medewerker doorloopt bij het starten van een nieuwe rol.
Wij voegen ze toe aan de medewerkersadministratie en integreren ze in ons HRIS; we voegen ze toe aan het organigram zodat je kunt zien waar ze passen binnen het team en de afdeling; we zullen AI-werknemers aan boord nemen en ervoor zorgen dat ze de training krijgen die nodig is voor hun rol.
En we zullen deze digitale medewerker doelen toewijzen, om ervoor te zorgen dat we hem verantwoordelijk houden voor bepaalde normen, net zoals we dat bij elke andere medewerker zouden doen. Dit zal een groot leermoment zijn voor ons en voor de industrie.
Dat is Sarah Franklin, CEO van HR-platform Lattice, die vertelt over de plannen van het bedrijf om een AI-werknemer door dezelfde stappen te leiden als een mens. Maar als je een kijkje wilt nemen naar hoe succes op het gebied van AI eruit zou zien: het is niet ver hier vandaan.
Bedrijven zijn slecht in het introduceren van nieuwe technologie. Als iets goed genoeg werkt, hebben ze de neiging om het jarenlang – zelfs tientallen jaren – vol te houden en het is een grote hindernis om hen aan te moedigen over te stappen op een andere manier van doen, zelfs als de winst groot lijkt.
Maar ze zijn veel beter in het binnenhalen van nieuw personeel. Het moet gaan om: personeel neemt ontslag, gaat met pensioen, krijgt kinderen of overlijdt. Als je het proces van het binnenhalen van AI-werknemers zo kunt afstemmen dat ze meer op de laatste en minder op de eerste lijken, kun je uiteindelijk de pool van bedrijven die denken dat ze AI in hun eigen wereld kunnen toepassen enorm uitbreiden.
Als u de volledige versie van de nieuwsbrief wilt lezen, kunt u zich abonneren om TechScape elke dinsdag in uw inbox te ontvangen.