AlphaFold 1: de architectuur die evolutie tot een AI-probleem maakte

AlphaFold 1 was het eerste grote succes van DeepMind op het gebied van eiwitstructuurvoorspelling. Gezien vanuit 2026 vormt het ook een bijzonder interessant voorbeeld van hoe deep learning, bio-informatica, statistiek en numerieke optimalisatie gecombineerd kunnen worden in één systeem. Vóórdat AlphaFold 2 in 2020 de sector op zijn kop zette, toonde de eerste versie al in CASP13 aan dat een neuraal netwerk gradienten van afstandsverdelingen tussen residuen kon leren en die vervolgens kon gebruiken om driedimensionale structuren te reconstrueren met een duidelijk hogere precisie dan concurrerende methoden.

De kernpunten van AlphaFold 1 in 20 seconden

  • DeepMind begon in 2016 met onderzoek naar eiwitstructuren en presenteerde AlphaFold op CASP13 in 2018.
  • De eerste versie voorspelt afstandsverdelingen tussen paren residuen op basis van sequentie- en evolutie-signalen.
  • Vervolgens zet het die probabilistische informatie om in een differentieerbare potentiaal en zoekt het een compatibele structuur via optimalisatie.
  • In CASP13 behaalde het hoge-precisie modellen voor 24 van de 43 domeinen bij vrije modellering, tegenover 14 bij het volgende beste algoritme.
  • Later verving AlphaFold 2 een groot deel van deze pipeline door een meer geïntegreerde neural architectuur.

Voor een technisch lezer heeft AlphaFold 1 een pedagogisch voordeel: de componenten zijn nog redelijk duidelijk te onderscheiden. Het systeem probeert niet van begin tot eind de volledige 3D-geometrie te leren. Eerst bouwt het representaties afgeleid van de sequentie en gerelateerde eiwitten, daarna gebruikt het een neuraal netwerk om structurele restricties te schatten en ten slotte voert het die restricties uit een optimalisatieproces.

Het is in zekere zin een hybride architectuur.

Van AlphaGo tot CASP13: hoe begon AlphaFold

Google DeepMind plaatst de oorsprong van het project in maart 2016, kort na de overwinning van AlphaGo op Lee Sedol. De organisatie vormde toen een klein team om te onderzoeken of machine learning-technieken toepasbaar waren op een van de klassiekere problemen in de biologie: het voorspellen van de driedimensionale structuur van een eiwit op basis van de aminozuursequentie.

Twee jaar later volgde de eerste belangrijke publieke test.

AlphaFold nam deel aan CASP13, gehouden in 2018. CASP, Critical Assessment of protein Structure Prediction, is een blinde evaluatie die sinds 1994 bestaat. Teams krijgen sequenties toegestuurd waarvan de structuren nog niet gepubliceerd zijn en moeten die voorspellen.

AlphaFold eindigde als eerste.

Het technische artikel verscheen later in Nature, in januari 2020, onder de titel Improved protein structure prediction using potentials from deep learning. Het beschrijft het systeem dat in CASP13 werd gebruikt en toont een heel duidelijk verschil: AlphaFold behaalde modellen met een TM-score gelijk aan of hoger dan 0,7 in 24 van de 43 domeinen bij vrije modellering, terwijl de tweede beste methode dat in 14 domeinen deed.

Dat resultaat was belangrijk omdat de doelen van free modeling precies die zijn waarvoor geen nabijgelegen structurele sjabloon bestaat dat een reeds bekende oplossing kan kopiëren of aanpassen.

De invoer blijft een tekenreeks

In de informatica kan een eiwit beginnen met een verrassend eenvoudige representatie.

Ieder eiwit bestaat uit een sequentie van aminozuren. De 20 standaard aminozuren worden meestal aangeduid met éénlettercodes:

A, C, D, E, F, G, H, I, K, L, M, N, P, Q, R, S, T, V, W, Y

Een klein eiwit kan er zo uitzien:

NLYIQWLKDGGPSSGRPPPS

Dit is de sequentie van Trp-cage, een klein peptide dat vaak als voorbeeld van vouwingsproces wordt gebruikt.

De uitdaging ligt in het omzetten van die eendimensionale keten naar een driedimensionale structuur.

AlphaFold 1 voorspelt niet simpelweg de XYZ-coördinaten voor elk atoom. Het centrale idee is eerst te infereren welke afstand er tussen residuen zou moeten bestaan.

Voor een eiwit van lengte L leidt dat tot een matrix van relaties van formaat L × L.

Elke positie (i,j) bevat informatie over de mogelijke ruimtelijke relatie tussen aminozuur i en aminozuur j.

De multiple sequence alignment (MSA) zet evolutie om in leerdata

Een van de belangrijkste onderdelen is de Multiple Sequence Alignment (MSA).

Voor een doelwit-eiwit zoekt AlphaFold naar verwante eiwitten in grote sequentiebases die evolutionair nauw verwant zijn. DeepMind gebruikte datasets zoals Uniclust30 en andere sequentie-archieven, naast tools zoals HHblits.

De gedachtegang is elegant.

Stel dat een bepaalde positie in een eiwit tijdens de evolutie varieert. Als een andere positie meestal tegelijkertijd verandert, dan kunnen er onderlinge relaties bestaan.

Bijvoorbeeld:

A L K G T A L K G T B L R C T B L R C T

De eerste en vierde positie lijken een correlated evolution te vertonen.

Dit kan gebeuren omdat die residuen ruimtelijk dicht bij elkaar kunnen komen. Als een mutatie de chemie van een residu verandert, kan een compensatoire mutatie nodig zijn voor stabiliteit.

Niet elke correlatie betekent directe contact, maar door miljoenen sequenties bevat deze signaalsterkte die nuttig kan zijn.

AlphaFold 1 gebruikt die co-evolutiere informatie om features in paren te construeren. Zoals beschreven in het oorspronkelijke artikel, leiden de associaties tussen 20 aminozuren plus gaps tot matrices van 21 × 21, oftewel 441 waarden voor elk par residuen.

De eiwit-omschrijving wordt een beeld met honderden kanalen

Hier komt een zeer bruikbare analogie voor machine learning engineers:

De eiwitsequentie kan worden voorgesteld als een soort vierkant beeld:

L × L × features

Elke cel (i,j) vertegenwoordigt een residu-paar en de kanalen bevatten informatie afkomstig uit de MSA, sequentieprofilen en andere signalen.

AlphaFold 1 verwerkt deze representatie via een diepe residual convolutionele neural network met dilatatieconvoluties.

Het zien van de matrix als een afbeelding maakt deze keuze logisch.

Een CNN kan zowel lokale informatie combineren als door dieper te gaan en dilataties toe te passen, signalen over grote afstanden binnen de matrix verspreiden.

De belangrijkste output is een distogram.

Voor elk residu-paar genereert het model niet slechts één afstandsinschatting, maar een hele verdeling van waarschijnlijkheden over verschillende intervallen.

In begrippen:

residu 21 ↔ residu 874-5 Å      0,045-6 Å      0,116-7 Å      0,487-8 Å      0,248-9 Å      0,08...

De neuraal netwerk geeft aan dat bepaalde geometrieën veel waarschijnlijker zijn dan andere.

Dit is veel rijker informatie dan een simpele binaire contactvoorspelling, wat gebruikelijk was in oudere methoden. Het artikel in Nature benadrukt dat het voorspellen van afstanden meer structurele informatie biedt dan enkel contactvoorspellingen.

De tweede output helpt bij het bepalen van torsiehoeken

AlphaFold 1 voorspeelt ook gerelateerde gegevens over de hoeken van het eiwitgroeidubbelstrang.

De bindingen in een eiwit kunnen niet willekeurig draaien. Twee belangrijke vrijheidsgraden worden beschreven door de hoeken φ (phi) en ψ (psi).

In plaats van ze volledig onafhankelijk te voorspellen, leert het model verdelingen die aangeven welke combinaties van hoeken chemisch gebruikelijk of plausibel zijn.

Deze voorspellingen vormen een goede basis voor de vervolgfase, maar vormen nog niet de uiteindelijke structuur.

En hier komt een fundamenteel verschil met AlphaFold 2.

De neurale netwerk eindigt niet: L-BFGS komt eraan

Na het verkrijgen van de afstandsverdelingen bouwt AlphaFold 1 een statistisch potentiaal.

De kernidee is eenvoudig uit te leggen.

Als het netwerk denkt dat twee residuen ongeveer 7 Å uit elkaar zouden moeten liggen, dan kost een structuraliteit waarmee ze op 25 Å worden geplaatst veel energie.

Plaatsen in een gebied met hoge waarschijnlijkheid leidt tot een lager potentiaal.

Voor elk paar (i,j) kan een uitdrukking worden afgeleid als:

Vij(d) = -log Pij(d)

waarbij Pij(d) de voorspelde kans is dat de twee residuen door afstand d gescheiden zullen zijn.

Aangezien de oorspronkelijke verdelingen discreet zijn, gebruikt AlphaFold interpolatie om continu functies te maken die kunnen worden geoptimaliseerd via gradient descent.

Vervolgens worden de bijdragen van vele paren bij elkaar opgeteld, samen met andere structurele termen.

Het doel wordt dan:

min V(φ, ψ)

Dat wil zeggen: de set hoeken vinden die een structuur met het laagste potentiaal opleveren.

Hiervoor gebruikt het systeem L-BFGS, een quasi-Newton optimalisatie-algoritme dat geschikt is voor problemen met veel variabelen zonder volledige Hessiaan-matrix op te slaan.

Voor iemand uit machine learning is deze architectuur aantrekkelijk omdat het twee problemen scheidt:

  1. De netwerken leren welke geometrieën waarschijnlijk zijn.
  2. De optimizer zoekt een structuur die aan die waarschijnlijkheden voldoet.

Niet alles hoeft binnen het neurale netwerk opgelost te worden.

Het potentiaal corrigeert ook onderliggende biases

Een ander interessant technisch detail:

Twee residuen binnen een eiwit hebben niet volledig willekeurige afstandsverdelingen, zelfs zonder sequentiespecifieke informatie. De connectiviteit van de keten en fysische restricties introduceren biases.

AlphaFold 1 corrigeert deels voor dat effect door de geleerd verdeling voor een specifiek eiwit te vergelijken met een referentieverdeling gebaseerd op algemene eigenschappen, zoals de sequentielengte.

De gedachte is vergelijkbaar met het berekenen van de waarschijnlijkheid van een afstand dada die sequentie ten opzichte van de verwachting gebaseerd op de algemene geometrie van een eiwit.

Dit maakt van de neurale voorspelling een bruikbaarder signaal voor de optimalisatie.

31.247 eiwitten voor training

Het oorspronkelijke werk gebruikte bekende structuren uit het Protein Data Bank (PDB) en scheidde zorgvuldig datasets om te voorkomen dat sterk gelijkende eiwitten de evaluatie zouden vervuilen.

Het artikel in Nature specificeert de PDB-versies, CATH-clusters en sequentiedatabanken die werden gebruikt, evenals de splits die voor de experimentscores werden toegepast.

Dit is heel belangrijk in computational biology.

Een willekeurige splitsing kan leiden tot vertekeningen omdat verschillende eiwitten uit dezelfde familie kunnen komen en een vergelijkbare structuur hebben.

Daarom moet de evaluatie goed meten of het model kan generaliseren naar nieuwe, nog niet geziene structuren.

CASP voegt hier nog een extra sterkte aan toe: deelnemers moeten hun voorspellingen indienen voordat de experimentele structuren publiek worden gemaakt.

AlphaFold 2 was geen gewoon grotere versie van AlphaFold 1

Na CASP13 herontwierp DeepMind bijna het hele systeem.

AlphaFold 2 debuteerde op CASP14 in 2020 en begint een veel grotere sprong te maken. DeepMind maakte duidelijk dat de gebruikte technieken aanzienlijk vernieuwender waren dan die van de eerste versie.

De architectuurverschillen kunnen als volgt worden samengevat:

AlphaFold 1

MSA → features → residual CNN → afstandsverdelingen + torsies → potentiaal → numerieke optimalisatie → structuur

AlphaFold 2

MSA + pairwise representations → Evoformer / attention → Structure Module → 3D-coördinaten → recycling

In AlphaFold 2 worden geometrische informatie en sequentiemodellen veel nauwer geïntegreerd binnen het neuronale netwerk zelf.

De Evoformer wisselt continu informatie uit tussen sequentie- en parerepresentaties, terwijl het Structure Module direct 3D-structuren genereert en het systeem zichzelf kan iteratief verbeteren door herhaaldelijk voorspellingen te recyclen.

Dit leidde in CASP14 tot de verklaring dat AlphaFold ongekende precisieniveaus had bereikt en werd erkend als een doorbraak in de wereld van structurele biologie. De impact was zo groot dat Demis Hassabis en John Jumper in 2024 de helft van de Nobelprijs voor Chemie ontvingen voor deze doorbraak, gedeeld tussen beiden voor het voorspellen van eiwitstructuren.

Een snelle chronologie van AlphaFold

De ontwikkeling samengevat in enkele belangrijke mijlpalen:

2016. Na AlphaGo richt DeepMind een klein team op onderzoek naar eiwitstructuurvoorspelling.

2018. AlphaFold neemt deel aan CASP13 en wint de competitie.

2020. Nature publiceert de gebruikte architectuur van CASP13: diepe netwerken die afstandsverdelingen voorspellen, die daarna worden omgezet in te optimaliseren potentiaal.

2020. AlphaFold 2 presenteert een compleet herontwerp en behaalt een veel hogere nauwkeurigheid op CASP14.

2021. AlphaFold 2 wordt gepubliceerd in Nature en DeepMind deelt code en modellen.

2021-2022. DeepMind en EMBL-EBI lanceren de AlphaFold Protein Structure Database met voorspellingen voor meer dan 200 miljoen eiwitten.

2024. AlphaFold 3 wordt uitgebreid met complexe informatiesystemen inclusief eiwitten, nucleïnezuren, liganden en ionen.

2024. Demis Hassabis en John Jumper delen de helft van de Nobelprijs Chemie voor de eiwitstructuurvoorspelling. David Baker ontvangt de andere helft voor computergestuurd eiwitontwerp.

Waarom AlphaFold 1 nog steeds relevant is

Niemand zou AlphaFold 1 in 2026 nog kiezen om te concurreren met AlphaFold 2 of 3 op het gebied van structurele voorspellingen.

Het belang ligt ergens anders.

Voor een ontwikkelaar biedt AlphaFold 1 een bijna ideale architectuur om te zien hoe een wetenschappelijk probleem kan worden ontleed met behulp van verschillende tools.

Er bestaan databases.

Er wordt gezocht op sequenties.

Er wordt features gegenereerd.

Er worden probabilistische modellen gebruikt.

Er is een diepe CNN.

Er is differentieerbare geometrie.

Er is L-BFGS optimalisatie.

Er is fysisch inzicht in de objectivefunctie ingebouwd.

AlphaFold 1 herinnert ons eraan dat wetenschappelijke artificiële intelligentie niet per se betekent dat alle voorgaande kennis moet worden vervangen door een enorme netwerkarchitectuur.

In dit geval werkt deep learning omdat het leunt op decennia van bio-informatica en de patronen die door evolutie worden ontdekt, omzet in mathematische beperkingen.

Die combinatie was voldoende om CASP13 te winnen.

Twee jaar later herontworpen DeepMind het bijna vanaf nul en behaalde AlphaFold 2 de resultaten die later de Nobelprijs zouden worden beschreven als de praktische oplossing van een probleem dat een halve eeuw lang werd nagestreefd.

Veelgestelde vragen

Wat was precies AlphaFold 1?

Het was het systeem dat DeepMind presenteerde op CASP13 in 2018. Het maakte gebruik van diepe neurale netwerken om afstandsverdelingen tussen residuen te voorspellen, die vervolgens werden omgezet in potentiëlen voor het bouwen van 3D-structuren.

Gebruik maakte AlphaFold 1 Transformers?

Niet in dezelfde zin als AlphaFold 2. De eerste versie was vooral gebaseerd op diepe residual convolutionele netwerken en features uit multiple sequence alignments.

Waarom was het belangrijk om afstanden te voorspellen in plaats van contactpunten?

Een contactvoorspelling geeft alleen aan of twee residuen waarschijnlijk dichtbij liggen. Een afstandsverdeling geeft veel meer informatie over de relatieve geometrie en maakt het mogelijk om nauwkeurigere 3D-restricties te genereren.

Was AlphaFold 1 de reden dat het Nobelprijs won?

De Nobelprijs voor Chemie in 2024 ging naar Demis Hassabis en John Jumper voor het voorspellen van eiwitstructuren, vooral voor de doorbraak met AlphaFold 2 in 2020. AlphaFold 1 was de voorloper die CASP13 won en de weg veegde voor de latere ontwikkelingen.

Bron: Nieuws Kunstmatige Intelligentie

Scroll naar boven