Laitteiston nopeuserot

Ihmisen näkökulmasta tietokone tuntuu kovin nopealta ja niinhän se onkin! Tietokone pystyy tekemään miljardeja tai biljoonia laskutoimituksia sekunnissa. Tietokoneen sisällä eri laitteiden ja komponenttien nopeuserot ovat kuitenkin valtavia. Eri nopeuksisia laitteita on paljon ja silti niiden pitää toimia hyvin yhteen. Tutustumme tässä aliluvussa näihin nopeuseroihin ja niiden vaikutuksiin tietokoneiden ja tietokonejärjestelmien suunnittelussa.

Laitteiston nopeuserot

Meille ihmisille ei ole juurikaan väliä, tapahtuuko jokin asia millisekunnissa (ms), mikrosekunnissa (µs) vai nanosekunnissa (ns), koska ne kaikki ovat ihmisen aikaskaalassa se ja sama silmänräpäys.

Tietokoneelle asia on ihan erilainen. Millisekunti on miljoona nanosekuntia ja on hyvinkin merkittävää, kestääkö jonkin asian tekeminen esimerkiksi 5 ms tai 5 ns. Yksi nanosekunti on niin lyhyt aika, että valo ehtii tyhjiössä kulkea vain 30 cm sinä aikana. Sähkösignaalit tietokoneen laitteistossa kulkevat vielä hitaammin. Sen vuoksi tietokoneiden pitää olla pieniä, jos niistä halutaan nopeita!

Vaikka tietokonelaitteistoja kehitetään nopeammiksi koko ajan ja nykyisetkin laitteistot ovat kovin erilaisia keskenään, niin jonkinlaisia suuntaa antavia nopeuksia voidaan silti antaa. Ajatellaan esimerkiksi tilannetta, jossa haluamme lukea muuttujan X arvon. Jos arvo on suorittimen rekisterissä, siihen voisi kulua vaikkapa 1 ns. Vastaavasti sen saantiaika välimuistista voisi olla 4 ns, keskusmuistista 50 ns, SSD-muistista 100 µs, kovalevyltä 10 ms ja internetpalvelimelta Rio de Janeirosta 10 sekuntia.

Juustokakkuesimerkki

Laitteiston ja koko tietokonejärjestelmän nopeuseroja voi illustroida Teemun juustokakkuesimerkillä. Esimerkki on vähän lapsellinen, mutta koeta kestää.

Teemu on tekemässä juustokakkua ja resepti vaatii nyt juuston lisäämisen kulhoon. Jos juusto on valmiiksi kädessä, sehän tipahtaa kulhoon yhdessä sekunnissa. Jos juusto pitää noukkia pöydältä, niin siihen menee muutama sekunti. Jääkaapista juuston hakuun menee vähän enemmän aikaa, kun Teemun pitää kävellä jääkaapille, avata sen ovi, ottaa juusto, sulkea jääkaapin ovi, kävellä takaisin pöydän ääreen, avata paketti ja laittaa juusto kulhoon. Tähän voisi kulua esim. 25 sekuntia.

Jos taas Teemu oli kokonaan unohtanut juuston eikä sitä löydy kaupoistakaan, niin onneksi juustoa löytyy kuusta. Teemu lähettää astronauttikaverinsa Tiinan lentämään Amsterdamin kautta avaruusasemalle Cape Canaveraliin, jossa häntä odottaa juuri kunnostettu Saturn V -raketti ja Apollo-avaruusalus. Tiina lentää 2-3 päivää kuuhun, hakee sieltä juuston ja palaa takaisin maan kamaralle, lentää New Yorkin kautta takaisin Suomeen ja vihdoin antaa Teemulle juuston kulhoon laitettavaksi. Tähän menisi ehkä 10 päivää. Teemu ei tietenkään vain odottele Tiinaa ja juustoa, vaan tekee sillä aikaa paljon muuta. Hän käy vaikka lomalla Roomassa, lukee kirjoja tai pelaa Doom'in taas alusta loppuun. Juustokakkuaineksetkin laitettiin pakastimeen odottamaan.

Entä jos käy niin onnettomasti, että Tiina palaa kuusta tyhjin käsin, kun sieltäkin oli juusto loppu? Nyt lähetetään Teemun toinen astronauttikaveri Arto etsimään juustoa Jupiterin Europa-kuusta. Arto on hyvää pataa SpaceX:n kanssa ja saa heiltä lainaksi ITS-aluksen, joka lähetetään liikkeelle BFR-raketilla. Matka kestää nelisen vuotta ja suurimpana riskinä on, että minkälaista juustoa Europa oikeastaan on. Se näyttää siniseltä, joten juusto voisi olla Aura-juustoa, mikä ei taas sovi Teemun reseptiin. Vaikeaksi menee.

Nopeuserojen vaikutus

Juustokakkuesimerkin mukaiset valtaisat nopeuserot ovat normaaleja tietokoneissa. Konekäskyjä suoritetaan ns-aikaskaalassa ("juusto kädessä"), kun ihmisen kanssa kommunikoidaan sekunnin aikaskaalassa ("juusto Europa'ssa"). Sekunnissa on tuhat miljoonaa (1 000 000 000) nanosekuntia. Yhden sekunnin aikana hyvä tietokone voi siis suorittaa miljardi konekäskyä. Jotkut tietokoneet ovat vielä nopeampia, koska ne suorittavat useaa konekäskyä samanaikaisesti. Jotkut tietokoneet ovat taas paljon hitaampia, koska se riittää niiden käyttötarkoitukseen.

Kuhunkin käyttötarkoitukseen on hyvä hankkia siihen sopiva järjestelmä. Esimerkiksi himopelaaja tarvitsee vähän paremman tietokoneen, koska pelien virtuaalitodellisuuden luominen teräväpiirtonäyttöjä varten vaatii paljon laskentatehoa. Pelkkään tekstin käsittelyyn ja verkkosurfaukseen riittää huomattavasti pelkistetympi laitteisto. Huippunopean koneen ostaminen sähköpostin lukemista varten on rahan heittämistä hukkaan. Toisaalta, eihän ihmiset osta Ferrareitakaan vain sen takia, että niillä voisi ajaa kovaa. Jotkut saavat hyvän mielen ihan hienon laitteiston omistamisesta. Yritysmaailmassa näin ei tietenkään toimita. Jos joku on sijoittanut 20 000€ huippunopeaan laitteistoon kun 1 000€ maksava tavallinen PC olisi riittänyt, niin se ei tiedä hyvää urakehitykselle.

Tiedon hakuaika rekisteristä ("juusto kädessä") on nanosekunnin luokkaa. Välimuistista haku ("juusto pöydältä") on vain vähän hitaampaa. Keskusmuisti ("juusto jääkaapissa") on nykykoneilla jo ärsyttävän kaukana, esimerkiksi 50-100 ns. Suoritin yleensä kuitenkin vain "hyytyy paikalleen", kun se odottaa muistista haettavaa tietoa. Jotkut suorittimet kuitenkin hyödyntävät tämänkin odotusajan suorittamalla sillä aikaa jotain muuta ohjelmaa. Tämä ei ole mitenkään yksinkertaista ja toteutetaan ns. hypersäikeistyksellä.

Kovalevyt ja massamuistit ovat jo tosi kaukana suorittimen näkökulmasta. Pyörivät kovalevyt ("juusto kuussa") toimivat millisekunnin aikaskaalassa, kun taas mikropiireillä toteutetut SSD:t ("juusto Tukholmassa") ovat jotain 100 kertaa nopeampia, mutta silti vielä yli 1000 kertaa hitaampia kuin keskusmuisti. Suorittimen ei missään tapauksessa kannata vain odotella tiedon siirtoa massamuistista, vaan sillä aikaa suoritusvuoro annetaan muille ohjelmille. Käyttöjärjestelmä siirtää tiedonsiirtoa odottavan ohjelman "nukkumaan" ja "herättää" sen sitten tiedonsiirron valmistuttua.

Internetin pilvipalvelut ja ihminen ovat sitten taas noin tuhat kertaa kovalevyä hitaampia. Ne toimivat sekuntien aikaskaalassa ("juusto Europassa"). Niitä odotellessa kyseinen ohjelma ehtii "nukkua" pitkään. Jo muutaman sekunnin odotusaikana ehtii tehdä paljon muuta, vaikkakaan kotitietokoneessa ei välttämättä ole suurta joukkoa muita ohjelmia suoritusvuoroa odottamassa. Tiedon odotusajan voi silti hyödyntää käyttöjärjestelmän ylläpidolla tai vaikkapa etsimällä älyllistä elämää SETI@home joukkoistetun laskennan avulla. Siihen tarvitaankin enemmän kuin muutama sekunti aikaa. Toisaalta, jos mitään muuta ei tosiaankaan ole tehtävänä, niin laitteiston pitää odottaa tekemättä mitään hyödyllistä. Tällainen odottaminenkin on aktiivista ja tarkoittaa konekäskyjen suorittamista pienessä silmukassa, jossa koko ajan kysellään, että "onks tietoo jo?".

Älä tuijota liikaa juustokakkuesimerkin numeroarvoihin. Numeroarvot muuttuvat koko ajan teknologian kehittyessä ja eri laitteistoissa on muutenkin valtavia nopeuseroja. Suuruusluokkaerot ovat tärkeitä. Nopeuskuilu rekistereiden ja muistin välillä on vain kasvanut viime vuosina. Vastaavasti nopeuskuilu muistin ja levymuistin välillä on pysynyt suunnilleen samana, mutta viime aikoina yleistynyt nopeampi SSD-muisti massamuistina muuttaa järjestelmää jonkin verran. Toisaalta taas pilvipalveluiden yleistyminen on johtanut siihen, että järjestelmän massamuisti voi olla pilvessä. Me ihmiset emme ole muuttuneet mihinkään, joten käyttäjältä vastauksen saaminen kestää edelleenkin sekunteja. Tosin graafisen käyttöliittymän kautta ihminenkin voi syöttää suuren määrän tietoa nopeasti.

Nopeuseroihin sopeutuminen

Erilaisten muistiteknologioiden suuret nopeuserot ovat vaikuttaneet ja vaikuttavat edelleenkin tietokoneiden ja käyttöjärjestelmien kehitykseen huomattavasti. Laitteistossa automaattisesti toimivat välimuistit ovat ratkaisu suorittimen rekistereiden ja keskusmuistin välisen nopeuseron tuomiin ongelmiin. Nopeusero on vain kasvanut ja nyt välimuisteja on tehokkaissa koneissa jo kolmessa tai jopa neljässä eri tasossa. Välimuisteilla ohjelma saa käyttöönsä näennäisen muistialueen, joka on yhtä suuri kuin keskusmuisti, mutta lähes yhtä nopea kuin suorittimen rekisterit.

Vielä suurempi nopeusero keskusmuistin ja erilaisten massamuistien välillä on johtanut käyttöjärjestelmissä virtuaalimuistin kehittämiseen. Sen avulla saadaan ohjelman käyttöön näennäinen (virtuaalinen) muistialue, joka parhaimmillaan on yhtä suuri kuin massamuisti, mutta lähes yhtä nopea kuin keskusmuisti. Järjestelmän keskusmuisti tuntuu ja näyttää siis paljon suuremmalta kuin mitä se todellisuudessa on. Tiedostojen osalta keskusmuistissa pidettävä levyvälimuisti ratkoo tätä samaa ongelmaa pitämällä keskusmuistissa kopioita juuri nyt käytössä olevista massamuistin tiedostoista. Massamuistissa olevat tiedostot tuntuvat nyt olevan paljon lähempänä kuin mitä ne todellisuudessa ovat.

Oman tietokoneen massamuistin ja Internetissä olevien palvelimien välistä nopeuseroa kurotaan umpeen välityspalvelimilla (proxy). Esimerkiksi, Los Angelesissa olevan paljon käytetyn kissankuvasivuston tiedostoja voi olla valmiiksi kopioituna verkkopalvelujen tarjoajan omalle välityspalvelimelle Suomessa. Näin paljon käytettyihin kissakuviin pääsee käsiksi nopeasti ja tiedonsiirron määrä Los Angelesista Suomeen vähenee huomattavasti.

Yhteenveto

Ensimmäinen luku käsitteli tietokonejärjestelmää ja sen osia. Sen jälkeen tutustuimme ohjelman käsitteeseen ja ohjelmien erilaisiin esitysmuotoihin vain ihmisen luettavissa olevista algoritmeista numeeriseen konekieleen. Lopuksi kävimme läpi tietokonejärjestelmän valtavia nopeuseroja ja niiden vaikutuksia järjestelmän käyttöön ja toteutukseen.

Vastaa alla olevaan kyselyyn kun olet valmis ensimmäisen luvun tehtävien kanssa.

Pääsit aliluvun loppuun!

Muistathan tarkistaa pistetilanteesi materiaalin oikeassa alareunassa olevasta pallosta!