Du redest gewissermaßen von "Alphablending", wenn ich die Frage richtig verstehe. Dazu gibt es prinzipiel mehrere Möglichkeiten, eine Suchmaschine wird dir dabei auch jede Menge ausspucken. Besonders wichtig ist die Frage, welche Rolle die Opazitäts, also Alphwerte, jeweils spielen. Normalerweise spielt der Alphawert des bereits vorhandenen Pixels keine Rolle mehr - den dieser wurde bei einem dargestellten Bild ja bereits irgendwie verrechnet. Möchte man auf ein bereits vorhandenes Bild nun was neues transparent darüberlegen, dann errechnet sich die Farbe eines jeden Pixels meistens so:
r = altesRot * (1-neuesAlpha) + neuesRot * (neuesAlpha)
g = altesGrün * (1-neuesAlpha) + neuesGrün * (neuesAlpha)
b = altesBlau * (1-neuesAlpha) + neuesBlau * (neuesAlpha)
a = neuesAlpha // das kann man aber auch weglassen bei dem Verfahren, da der Alphawert im Ausgangsbild da keine Rolle mehr spielt.
Dabei solltest du jedoch "neuesAlpha" in einen floatwert von 0-1 umgerechnet haben, sonst funktioniert das ganze mit Integern nicht
An sich macht es meistens sinn alle Farbwerte als Gleitkommazahlen darzustellen
Die meisten Transparenzeffekte benutzen dieses Verfahren. Aber letztlich kann man da machen was man will.