Belangrijkste punten
Een kunstmatig intelligentiemodel van OpenAI heeft meer dan een dozijn nieuwe bacterie-vernietigende virussen uitgevonden nadat wetenschappers van de Stanford University het model hadden getraind om patronen van DNA-structuur in de natuur te herkennen en ze opnieuw te schrijven om nooit eerder geziene virale genomen te creëren.
Feiten en cijfermateriaal
- In een studie die donderdag in het tijdschrift Science werd gepubliceerd, legden wetenschappers uit hoe ze een OpenAI-generatief model genaamd Evo konden trainen om volledig functionele virale genomen vanaf nul te ontwerpen.
- Net zoals taalmodellen worden getraind op grote hoeveelheden tekst, hebben wetenschappers Evo getraind op enorme hoeveelheden DNA-gegevens bestaande uit miljoenen genomen. Van daaruit leerde het de evolutionaire beperkingen die DNA-sequenties in de natuur vormgeven en schreef het zijn eigen “recepten” voor nieuwe virussen.
- Nadat wetenschappers het door AI ontworpen DNA in het laboratorium hadden gesynthetiseerd, infecteerden 16 van de generatieve fagen succesvol E. coli, waarbij ze in sommige gevallen met succes de natuurlijke resistentiemechanismen van de bacteriën overtroffen.
- De nieuwe virussen hadden sequentiepatronen die verschillend waren van alles wat in de natuur wordt gevonden.
- De auteurs van de studie sloten datasets van menselijke pathogenen uit hun trainingsmodellen uit, wat betekent dat de gecreëerde virussen mensen niet kunnen infecteren. Toch komen de resultaten naar voren tegen een achtergrond van groeiende zorgen onder wetenschappers dat AI op een dag zou kunnen worden gebruikt om een nieuwe generatie biologische wapens te creëren.
- Het vermogen om nieuwe, functionele virussen op maat te ontwerpen zou ook kunnen leiden tot doorbraken in de behandeling van antibioticaresistente superbacteriën door wetenschappers in staat te stellen op maat gemaakte therapieën te genereren, in plaats van te vertrouwen op het zoeken in de natuur naar virussen die zich op specifieke bacteriën richten.
Belangrijkste kritiek
Verschillende deskundigen op het gebied van biosecurity, volksgezondheid en synthetische biologie hebben zorgen geuit over de snelheid van de AI-voortgang in de biologie en het gebrek aan regelgevende kaders. In een begeleidend commentaar in Science waarschuwden biosecurityleiders Dr. Thomas Inglesby en Dr. Moritz Hanke van het Johns Hopkins Center for Health Security dat het Stanford-onderzoek aantoont dat AI nu in staat is gevaarlijke biowapens uit te vinden. Ze pleitten voor strikte wetten inzake toekomstig onderzoek en zeiden dat het illegaal zou moeten zijn om soortgelijke generatieve technieken te gebruiken op pathogenen die mensen, dieren of landbouwgewassen aantasten.
Belangrijk citaat
“Je zou kunnen zeggen, ‘Hé, genomisch taalmodel, maak een influenzagenoom dat is aangepast om makkelijker overdraagbaar of dodelijker te zijn,” vertelde Hanke aan de New York Times.
Tegenargument
Tom Ellis, professor in synthetische genoomengineering aan het Imperial College London, vertelde de Guardian dat hij denkt dat het maken van een menselijk-impactvol biowapen niet zo eenvoudig zou zijn. Hij zei dat de door Evo gecreëerde virussen “letterlijk de kleinste en eenvoudigste genomen zijn om te maken” en dat eenvoudige beperkingen op toegang tot genetische gegevens een groot verschil zouden kunnen maken.
Achtergrond
Wetenschappers debatteren al maanden over de vraag of de mogelijkheden van biologische AI-software moeten worden beperkt. Terwijl sommigen betogen dat de technologie in staat zal zijn om gunstig biomedisch onderzoek te versnellen, kunnen diezelfde modellen, als er geen passende veiligheidsmaatregelen zijn, worden misbruikt om biologische bedreigingen te helpen identificeren, ontwerpen of optimaliseren. Grote AI-bedrijven zijn samengekomen om het Frontier Model Forum op te richten, een non-profitorganisatie die deels is bedoeld om AI-biorisico’s te onderzoeken, veiligheidsnormen te ontwikkelen en de kans te verkleinen dat grensmodellen worden uitgebuit voor biologisch misbruik. Naast zorgen dat getrainde modellen in staat zijn om nieuwe bedreigingen te creëren, betogen velen dat de modellen de barrières voor toegang tot kennis zouden verlagen voor kwaadwillende actoren die informatie zoeken over gevaarlijke pathogenen. In april vertelden wetenschappers aan de Times dat ze in staat waren om AI-chatbots een reeks vragen te stellen en in ruil daarvoor een stapsgewijze handleiding kregen over hoe dodelijke pathogenen te assembleren en ze in openbare ruimtes los te laten.
“Dit artikel is geschreven door Mary Whitfill Roeloffs en vertaald door Forbes.be.”
