GDC Game Audio report 2006 (in Dutch)

In 2006, Richard van Tol and I visited the Game Developers Conference in behalf of the Utrecht School of the Arts. This is an (originally intended as internal) report which contains the developments in the field of game audio, after attending the audio sessions of the GDC ’06.

Disclaimer: this is an document reporting the state of a rapidly developing field, many facts may be outdated. Mainly intended for “nostalgia” or reference! You can download the original report as PDF (Dutch) or read the article below this line, oftewel het artikel hieronder lezen: (Dutchy stuff has already started)

Game Developers Conference 2006

© Richard van Tol en Sander Huiberts, Utrecht School of the Arts, 2006.

Inleiding
Dit document omvat een verslag van diverse ontwikkelingen op het gebied van game audio design, naar aanleiding van de Game Developers Conference ’06.

Muziek in games
De grote nadruk van dit jaar lag op de samensmelting van de populaire muziekindustrie en de game industrie. Popmuziek wordt meer en meer toegepast in games en gamemuziek vindt steeds vaker haar weg in andere multimedia buiten (vaak nog wel rondom) games, zoals: audio-cd’s, commercials, film, etc. Een bedrijf als Sony kan hierdoor haar producten (zowel games (PlayStation) als muziek (Sony Record Label)) wijder verspreiden.

Tot voor kort was de muziekindustrie erg afwachtend en niet erg happig om zijn/haar artiesten te verbinden aan games. Het succes van bijvoorbeeld Guitar Hero en SingStar heeft dit veranderd. Deze games zijn een goed voorbeeld dat het promoten van muziek van de muziekindustrie in games erg interessant is en dat games gebaseerd op populaire muziek leuke gameplay kunnen opleveren voor een zeer breed (nieuw) publiek.

Music Director
Door de bovengenoemde ontwikkelingen is er een nieuwe taak ontstaan binnen veel game bedrijven: de music director. Deze werkt samen met of onder supervisie van de audio director en coördineert alle zaken die te maken hebben met de soundtrack van een game. Deze persoon organiseert pitchings met componisten of gaat hij achter de rechten van de muziek die men wil gebruiken aan.
Designers weten vaak niet hoe ze zich zo moeten uitdrukken dat een componist er veel aan heeft. Vaak drukt men teveel de omgeving van de levels uit, in plaats van de emoties van de levels. Idealiter wil de componist een creatieve license en ook informatie over “ik wil dat de speler X voelt en Y denkt.”

Een paar voordelen van de music director: Hij spreekt de taal van de componist. Dit is makkelijker voor de componist en voor de verschillende betrokken partijen. Hij heeft verstand van de “ins en outs” van muziek en de productie ervan. Hij heeft een beter beeld van wat werkt in games.

Game Muziek & Royalties
Bij populaire muziek blijkt het een enorme klus om tot overeenkomsten te komen voor het licenseren van popmuziek naar games. Met name het vinden van de rechthebbenden van de rechten van hiphoptracks is een lastige taak. Er is namelijk vaak niet sprake van 1 rechthebbende, maar een aantal rechthebbenden (d.w.z. de
zogenaamde “splits” door o.a. verschillende teksten, muziek, duo-rappers, collectieven) en per land liggen de exploitatierechten ook nog eens vaak in meerdere handen. Een schijnend voorbeeld was een A&R manager die 4 maanden heeft gezocht naar de rechthebbende van een track van “The Roots” en 160 contracten moest tekenen voor het gebruiken van 20 bestaande tracks in een game. Mede daarom is het voor de industrie erg interessant om artiesten uit de muziekindustrie direct (dus niet achteraf na het schrijven en uitbrengen van een track) te vragen om exclusieve tracks te schrijven voor een game.

Remixen popmuziek
Interessant is dat de gelicenseerde tracks uiteindelijk voordat ze in de game gebruikt worden, vaak eerst opnieuw afgemixt worden. Het originele materiaal wordt opnieuw voornamelijk met een andere balans afgemixt. Vaak moeten de stemmen iets zachter en de drums harder, omdat de het ritme van de
achtergrondmuziek belangrijk is en de tekst van de stemmen in een game minder. Uiteraard moet bij het afmixen ook rekening gehouden worden met de overige sound effects in de game. Uiteindelijk kan hier dus een nieuwe specialisatie ontstaan: audio remixing voor games.

Overigens houdt men zich in het veld helemaal niet bezig met de vraag of popmuziek in games wel geschikt is, of de beste oplossing. Men doet het waarschijnlijk omdat de gamer zijn favoriete muziek in een game wil, of omdat de industrie dat wil. Een wat onsamenhangend onderzoek dat ook gepresenteerd is toont aan dat gamers beter presteren als ze een game kunnen spelen met hun zelf gekozen muziek. Of ze het spel ook als leuker ervaren blijkt hier geenszins uit, en wij zetten behoorlijk wat vraagtekens bij het onderzoek. Op verzoek zijn de details bij ons te verkrijgen.

De componisten van game muziek
De componisten van game muziek gaan grotere bekendheid krijgen als artiest, als het aan de componisten ligt (is een algemene opvatting). In de praktijk blijkt dat veel game muziek nu vaak gebruikt wordt voor meer dan alleen een game, zoals commercials, trailers, soundtracks, ringtones, maar ook als underscores bij
televisieprogramma’s en de SuperBowl. Het optreden van muziek buiten games en de promotie van games zou royalties op moeten leveren, menen de componisten. Daarnaast zou de music pers een grotere rol moeten gaan spelen bij het reviewen van game music, zoals dat ook al gebeurt bij muziek van films. Als popartiesten wel uitdrukkelijk genoemd worden bij de muziek in games, waarom de componisten
dan niet? We gaan nog veel van de componisten horen. Hoe krijg je goede muziek voor je game/hoe vind je de juiste componist? Er waren enkele sessies over het vinden van de juiste componist voor een game. Er
werd een (schrijnend) voorbeeld gegeven van John Williams, die compleet verkeerde muziek instuurde voor een pitching voor de First Person oorlogs-shooter “Tom Clancy Ghost Recon 3” (van Steven Spielberg). Dit lag niet alleen aan het feit dat componisten (die, zoals John Williams, vaak uit de filmindustrie komen) zich te weinig inleven in games (d.m.v. vragen stellen, vergelijkbare games spelen, etc.) maar ook doordat designers vaak weten niet hoe ze zich moeten uitdrukken over muziek. Het geven van een lijstje met keywords waar de game over gaat kan dus volledig verkeerd uitpakken. Het woord “heroïsch” kan wel eens
interpretatieverschillen opleveren, zeker als de componist zelf niet veel games speelt of gespeeld heeft.

Er werden voorbeelden gegeven van hoe je zo goed mogelijk aan een componist komt. Het is een behoorlijke klus, je kunt je uiteindelijk voorstellen waarom een game bedrijf een music director heeft, die zelf niet eens de muziek maakt! Dit is ongeveer de het stappenplan:

  • Weet waar je game over gaat, omschrijf hem heel goed, geef zoveel mogelijk informatie over waar het zich afspeelt, wanneer, wat de hoofdkarakters zijn, de doelen in de game, de verhaallijn, de doelgroep, etc;
  • Organiseer een meeting met de producer, het hoofd van de marketing, de (lead) game designer, (lead) audio designer of audio director en de music director van de game;
  • Vecht uit wie de componist mag kiezen, de audio director of de producer;
  • Doel van de meeting:
  • Overeenkomsten vinden tussen de betrokkenen;
  • Overeenkomen welke stijl het gaat worden;
  • Categoriseren keywords en omschrijving;
  • Subcategoriseren keywords en omschrijving;
  • Discussiëren over meningsverschillen;
  • Alle gegevens samenvatten en alle partijen laten ondertekenen (!).
  • Audio director en music director luisteren naar beschikbare “demo reels”, stellen een lijst van componisten samen en nemen stukken voorbeeldmuziek (reference music) die getest worden in de context;
  • De componisten krijgen:
  • Alle informatie over de game (zie eerste punt);
  • Artwork, captures, afbeeldingen, foto’s;
  • Samenvatting van de muzikale stijl;
  • Muziekvoorbeelden (reference music);
  • Omschrijving van de rol van muziek in de game;
  • Technische specificaties (hoe de muziek aangestuurd wordt, hoe de muziek opgebouwd moet zijn, de lengte van de stukken etc).
  • Organiseren van een pitching. Iedereen krijgt de documenten en de opdracht om tot 5 minuten voor een specifieke level te maken volgens een specifieke technische implementatie. Zo kunnen de stukken muziek meteen in de game getest worden.
  • De pitches worden gereviewd. De verschillende partijen krijgen een stukje muziek en mogen ernaar luisteren in de context van de game. Er wordt een samenvatting gemaakt van wat is ingeleverd. Punt van aandacht: Hebben ze voldaan aan de outline, zowel technisch als artistiek?
  • Er wordt een meeting georganiseerd met de partijen. Men kiest voor een componist. Er werd niet bijgezegd dat iedereen hier weer moest ondertekenen, maar wij denken dat dit ook hier zal gebeuren en anders in de nabije toekomst wel.
  • De componist wordt uitgenodigd in de studio. Er wordt gepraat over wat men goed en slecht vond. Er wordt overeengekomen hoeveel muziek, waar de muziek komt en hoe het gaat werken in de game. Het budget wordt overeengekomen, daarbij het budget voor onverwachte zaken en het budget voor live-muzikanten.

Na dit lange stappenplan hebben ze de juiste componist te pakken. Grappig detail is dat de 3 aanwezige componisten vertelden dat ze uiteindelijk in 99% van de gevallen totaal andere muziek maken dan ze voor de pitching hebben gedaan, omdat zij vinden dat het beter werkt en ze de betrokken partijen ervan hebben
kunnen overtuigen dat het beter is!

Game Muziek componeren
Het komt veelvuldig voor dat game designers aan een componist het volgende vragen: “we hebben een jungle-level, dus willen we daar jungle-muziek en we hebben een space-level, dus willen we space-muziek”. Het is aan de componisten om hier doorheen te prikken en niet zozeer alleen maar de (visuele) locatie in een
spel als uitgangspunt te nemen voor een compositie, maar juist voor andere parameters in het spel (gevoel van avatar in dit level, win/lose situatie, etc.). Oftewel: “writing for emotion, not environment”.

De rest: Spraak en Sound Design

Er waren geen sessies betreffende het opnemen, mixen of synthetiseren van spraak in games, of hoe om te gaan met bijvoorbeeld grote Hollywood acteurs in game producties.
Ook specifiek game sound design was niet veel aan de orde. Tijdens round table discussions werd er wel een beetje gepraat over foleywerk (met name een leuke anekdote hoe diverse sounddesigners een studio (en daarbij uiteindelijk ook een collega) in vuur en vlam zetten tijdens de opname van geluid voor de film Indiana Jones I – *inclusief* opname!) maar geen specifieke informatie voor games.

Granulaire Synthese in games
Uitzondering was een sessie over granulaire synthese in games. Helaas werd er geen werkend voorbeeld van synthese in een game gepresenteerd, maar ging de inhoud meer over wat granulaire synthese is en hoe je er mee moet beginnen. De potentie van Granulaire Synthese in games werd bijzonder duidelijk. De techniek is
erg interessant voor platforms met weinig geheugen maar wel rekencapaciteit en games zoals het aankomende Spores (van Will Wright) waarin evolutionaire systemen de hoofdrol spelen.

Nawoord (2008): Voor meer informatie zie de website van Leonard J. Paul.

Physical Modelling
9 mensen in een panel waren zeer terughoudend met physical modelling. Niet dat men er niet in gelooft, maar men gelooft er niet in, in combinatie met games. De vraag wanneer dit mogelijk zal zijn wordt beantwoord met “tegen de tijd dat we een stekker in ons hoofd stoppen.” Wil modeling het gaan overnemen, dan moet het minimaal even goed klinken als samples, maar even snel te maken zijn en evenveel resources (rekencapaciteit) innemen.

Film en game audio
Een interessante discussie was die over het verschil in game audio en film audio. Game audio wordt omschreven als ‘sonically real’ of ‘everything has sound’, terwijl film audio wordt omschreven als ‘reduced reality’, of ‘only what need sounds has sound’. In een eerdere sessie werd ook al eens gezegd dat games ontzettend vol zitten met sound design clichés: dieren zijn nooit stil, alle fietsen hebben bellen,
de nachten zitten vol krekels. Game audio moet meer ‘reduced reality’ door te kiezen voor belangrijkste character in game (ervan uitgaande dat een game een character heeft):

  1. break up everything
  2. which character is the player most going to relate to?
  3. use perspective of that character
  4. lay mix of what is most important for that character

Dit is eigenlijk dus een soort voorkeursmixen. Voortdurend wordt gekozen wat belangrijk is en niet alle geluiden zijn hoorbaar.

Game Audio engines en Game audio hardware
“After 25 years, why are we still creating audiotools?”
We zijn nog steeds audio engines aan het maken, aan het verbeteren en er is er eigenlijk nog niet één ideaal! Audio designers in games zijn met name bezig met beperkingen, limitaties en met name de limitaties in resources. Game audio productie nu wordt vergeleken met het werken in oude analoge studio’s, waarin aan de lopende band gesoldeerd en gepionierd moest worden. Met name de strijd om de beschikbare rekenkracht (lees: wat er van de lead designer maximaal nog voor geluid gebruikt mag worden) die telkens gevoerd moet worden is zwaar.

Next-gen?
De next-gen consoles (PlayStation3, Nintendo Revolution, XBOX 360) hebben geen dedicated audio hardware meer. Dit biedt enorme voordelen voor bijvoorbeeld live-synthese en levert vrijwel geen beperkingen op, alleen kan in moderne games het “vechten” voor het audio-aandeel alleen nog maar groter worden (“You have to claim your rights”). Ook moet dus wel een audio engine voorhanden zijn, want het hard-coden van de geluidsaansturing is niet efficiënt. Overigens hebben de consoles behoorlijke rekencapaciteiten: de XBOX 360 heeft drie 3,2 gigahertz processoren,
wat best flink genoemd kan worden. Overigens betaal je voor deze rekenkracht tussen de 300 en 400 euro en hij is al gehacked zodat hij ook andere dingen kan dan alleen games…

MIDI
MIDI is nog altijd niet buitenspel en met name het importeren van een soort VSTinstrumenten (de zogenaamde DSP-instruments) lijkt een interessante optie in combinatie met MIDI-aansturing. VST-plugins hebben een totaal andere efficiëntie dus deze zullen vaak niet bruikbaar blijken.

Toch zal – met de visuele focus in de game industrie – dit alleen zijn weggelegd voor experimentele spellen die bereid zijn grafische details op te offeren ten bate van het geluid. MIDI is verder voornamelijk genoemd in de context van games met zeer beperkte resources, zoals mobiele telefoons.
Het integreren van de sequencer inclusief plugins is een logische stap, met name voor adaptieve muziek. Het zal nog wel even duren, aangezien DSP-instruments en ook de effect- en masteringsplugins veel rekencapaciteit vergen. Hier hoeven we echter niet te wachten tot we stekkers in ons hoofd stoppen, het is dichterbij!

Implementatie
Het veld is er achter dat de implementatie net zo belangrijk is als de geluiden zelf. Veel sound designers willen zelf kunnen programmeren en een paar interessante cases toonden aan dat de samenwerking tussen programmeurs en sound designers/composers zeer vruchtbaar is. De meeste sound designers geven aan dat zij heel graag zelf willen implementeren met speciale scripting.

Als programmeurs
ze een tool aanbieden of uitleggen hoe het gedaan kan worden, kunnen zij hiermee meer bereiken. (letterlijk: “put the decisions to the people with ears”). Deze sound designers moeten dit dan ook wel kunnen!

Lokalisatie van audio files
Games worden enorm. Om te concurreren moet de speellengte lang zijn (meent men) en de hoeveelheid geluidscontent is dus ook echt enorm. In Halo (2) zitten 4000 Sound effects en 80.000 regels gesproken dialoog. Dit heeft grote gevolgen voor de lokalisatie van geluiden (waar zit welk geluid, hoe heet het, waar blijft het, waar sturen we het aan en is het de laatste versie?). Versiebeheer kan niet meer gewoon in een Word-documentje (zeker niet als met een heel team gewerkt wordt!) en op de beurs waren ook diverse bedrijven die interactieve file-managers
aanboden.

Overigens: hier is het een eenvoudige stap om closed-captioning (ondertiteling en omschrijving van geluiden) vanuit het versiebeheer in de game te krijgen. De game is dan toegankelijk voor slecht horenden en doven. Een omschrijving van de geluidsfiles en de op te nemen dialogen wordt toch al gemaakt. Een combinatie heeft veel voordelen.

Audio teams
Omdat de games steeds groter worden, worden de teams ook steeds groter. De
volgende mensen kunnen in een game bedrijf met audio bezig zijn:

  • Lead sound designer
  • Additional sound designers
  • Music supervisor
  • Dialog supervisor
  • Foley/Postproduction sound designer
  • Audio implementation staff
  • Audio programmer
  • Project coordination
  • External: Composer/orchestrator, Dialog production house, Post production house (foley)

Nawoord (2008): Meer informatie is te vinden in

Brandon, A. (2005) Audio for Games, Planning, Process and Production. Berkeley, CA: New riders.

Next-gen-engines (Next Gengines?)
Er werd een aantal nieuwe geluidsengines gepresenteerd. Alle hebben grote voordelen, dus wederom is er weer niet één de beste…

ISACT is een audiotool met netwerk-optie. Hierdoor is het mogelijk om op één computer de game te spelen, terwijl op de andere computer de sound effects in realtime aangepast kunnen worden.
FMOD maakt het mogelijk om de aansturing van een geluid (zoals motor-engine) zeer dynamisch aan te sturen. Je creëert als het ware een virtueel instrument dat reageert op een controller (in dit geval de snelheid).

De Microsoft X3D audio library maakt het mogelijk om zeer dynamisch 3 dimensionale velden te maken, zoals een auto, waarbij aan de achterkant een uitlaat zit, aan de voorkant de motor en de remmen bij de banden. (Project Gotham Racing 3). Voor een creatieve designer is dit natuurlijk niets nieuws, de engine belooft alles geautomatiseerd te doen en daardoor veel rekenkracht te besparen. De stap naar physical modelling of een gecombineerde werkwijze is zo gemaakt, als je tot op zulke details een geluid aan het bewerken bent. Overigens klinken in heel veel gevallen de samples van motoren nog steeds “omhoog gepitched”.

© Richard van Tol en Sander Huiberts, Utrecht School of the Arts, 2006.