Anteckningarna

ord är dåd

Jennifer Doudna, En av grundarna av CRISPR-tekniken skrev i går vad som borde bli en mycket uppmärksammad artikel om hur den tekniken borde reglera, och framförallt om genredigering av människor.

Doudnas artikel ur Science

Artikeln publicerades på årsdagen efter det att en kinesisk forskare avslöjat att han använt genredigering och skapat redigerade tvillingar, något som Doudna i princip anser var ett brott mot världssamfundet:

 ”His risky and medically unnecessary work stunned the world and defied prior calls by my colleagues and me, and by the U.S. National Academies of Sciences and of Medicine, for an effective moratorium on human germline editing. It was a shocking reminder of the scientific and ethical challenges raised by this powerful technology. Once the details of He’s work were revealed, it became clear that although human embryo editing is relatively easy to achieve, it is difficult to do well and with responsibility for lifelong health outcomes.”

Doudna, Jennifer ”CRISPRs unwanted anniversary”, Science 15 Nov 2019: Vol. 366, Issue 6467, pp. 777 DOI: 10.1126/science.aba1751

Doudnas upprördhet är lätt att förstå – vi saknar kunskap om hur tekniken kommer att påverka oss och dessutom tycks vi inte kunna förutse hur genredigeringen fungerar, så det måste kanske till mer reglering — åtminstone anser Doudna det, och pekar på mängder av pågående aktivitet:

In this vein, the World Health Organization (WHO) is pushing government regulators to engage, lead, and act. In July, WHO issued a statement requesting that regulatory agencies in all countries disallow any human germline editing experiments in the clinic and in August, announced the first steps in establishing a registry for future such studies. These directives from a global health authority now make it difficult for anyone to claim that they did not know or were somehow operating within published guidelines. On the heels of WHO, an International Commission on the Clinical Use of Human Germline Genome Editing convened its first meeting to identify the scientific, medical, and ethical requirements to consider when assessing potential clinical applications of human germline genome editing. The U.S. National Academy of Medicine, the U.S. National Academy of Sciences, and the Royal Society of the United Kingdom lead this commission, with the participation of science and medical academies from around the world. Already this week, the commission held a follow-up meeting, reflecting the urgent nature of their mission.

Ibid.

Doudnas artikel reser emellertid en mer komplex fråga – och det är en fråga om hur väl vi kan kontrollera ny teknik när den väl är uppfunnen? Särskilt teknik som inte beror av massiva investeringar eller unika råvaror (som kärntekniken som ofta kommer upp i sammanhang som dessa)?

Platon låter i en av sina dialoger Sokrates berätta myten om Thamus och Toth – som handlar precis om detta. Enligt Sokrates hade kung Thamus en utmärkt uppfinnare i Toth som kom upp med en mängd olika uppfinningar, men en sak kunde Toth inte – han kunde inte utvärdera uppfinningarnas samhälleliga konsekvenser — det var kungens privilegium.

Toth förebringade kungen alla sina uppfinningar och efter nogsamt övervägande lät kungen besluta om egyptierna skulle få ta del av uppfinningen eller ej.

Sokrates berättar att Toth en dag uppfann skrivkonsten, och förevisade just denna för kungen som förfärad förbjöd Toth att sprida skrivkonsten eftersom den skulle förslöa folk, få dem att tro att de var visa och förstöra samhället. Sokrates berättar myten för att formulera en attack på det döda, nedskrivna ordet – men i förbigående (som så ofta i Platons dialoger) får vi en annan insikt på köpet.

Vad hände med skrivkonsten? Den inte bara spreds – den exploderade och är den vår dominerande minnesteknik. Thamus omdöme tjänade inget till, och Toth må ha varit hur ansvarsfull som helst — men när uppfinningen en gång finns så letar den sig fram. Det påminner litet om det där citatet från Jurassic Park – ”life finds a way” – det gäller innovationer också.

Det exempel som oftast ges på bra kontroll av teknik och forskarsamhällets ansvar är den konferens om bioteknik som hölls i Asilomar 1975. Resultatet, menar de som tycker att den konefersen var ett gott exempel på hur vi kollektivt kan agera som kung Thamus, att vi inte fick några biokatastrofer. Samtidigt säger samma forskare att det är oklart – som bäst – om den processen fortfarande kan vara värdefull.

Och tänk efter. 1975 — inget Internet, inga datorer, dyr utrustning som krävdes för att utföra experimenten — inget av det gäller idag för de teknikområden som vi oroar oss för här. Kunskapsspridningen är ögonblicklig och med dagens datorkraft kan en mängd experiment utföras av intresserade studenter.

Det finns också de som menar att Asilomar var i stort sett meningslöst, eftersom man grovt felvärderade riskerna och överdrev dem, här ur en rapport av Katja Grace:

It is widely agreed that recombinant DNA research turned out to be fairly safe.While dangerous organisms may be created and released accidentally, this is very unlikely.Intentional hazards are a different story; however, they were also not a focus of the conference. In this sense, the predictions of danger were unsuccessful. However, note that the scientists advocating caution didn’t necessarily think that the odds of recombinant DNA turning out to be dangerous were greater than 50%. Since large low-probability catastrophes can also justify action, it is not inconsistent to argue that a research program is unlikely to be harmful, but that we should nonetheless prepare for the worst. Scientists should not be penalized for advocating caution per se. If they were fairly confident that safety measures would turn out to be unnecessary, then their predictions were fairly good. Nonetheless, they were less good than the predictions of people who considered the risk even smaller.

Grace, Katja. 2015. The Asilomar Conference: A Case Study in Risk Mitigation. Published as Technical report 2015–9. Berkeley, CA: Machine Intelligence Research Institute. Last modified July 15, 2015 (notes omitted)

Grace är annars positiv — men sammanfattar:

The conference was successful in some ways, and unsuccessful in others. It did not ultimately prevent the risk, largely because recombinant DNA did not turn out to present much risk.

Ibid

Asilomar är inget universalmedel och ingen enkel lösning på frågan om hur man kan kontrollera ny teknik. Både Asilomar – kollektiva diskussioner och samförståndsförsök – och Thamus/Toth-modellen där en auktoritet tillåter eller förbjuder teknik har de facto misslyckats. Det betyder inte att det inte är värt att försöka – och kanske är det en del av insikten här, perfekt kontroll är inte möjlig, men om världssamfundet kan samla sig kring en norm så kanske missbruk av nya tekniker kan minimeras.

Kanske.

Ett annat sätt att närma sig problemet är att fråga vad som måste gälla för att vi skulle kunna kontrollera teknik – en sorts omvänd övning. Följande ser ut att vara några sådana kriterier:

  1. Användning av tekniken måste vara öppet tillgänglig för granskning. (Så att vi vet om den används eller ej)
  2. Tillgången till tekniken eller användningen av den måste vara villkorad av tillräckligt omfattande resurser för att endast ett fåtal aktörer ska komma ifråga för den (det gör gruppen som skall kontrolleras mindre).
  3. Tekniken skall helst vara svåranvänd och kräva betydande expertis. (Gör också kontrollgruppen mindre)

Såvitt jag kan se gäller inget av dessa kriterier CRISPR. Återigen – att vi kanske inte kan garantera efterlevnad av regler är inte ett avgörande skäl att inte införa regler (brottsbalkens värde är inte beroende enbart av uppklarandeprocenten – även om det nog finns en relation där). Samtidigt: borde vi inte parallellt med Doudnas uppmaning till internationell reglering börja fundera igenom hur vi bygger en beredskap för en värld i vilken tekniken använts på sätt som visar sig innebära betydande risker?

Vi kan reglera, men vi kan också förbereda oss. Båda är nog nyttiga att utforska.

P.S. Jag är teknikoptimist – jag tror att tekniken kommer att göra oss rikare, lyckligare, friskare och bättre på många sätt över tiden – men det betyder inte att jag inte också ser risker. Framsteget är aldrig riskfritt. D.S.

%d bloggare gillar detta: