toj tt-kt-3-2-2017

94
Toimintatutkimus kehittävän tutkimuksen lähestymistapana Teknologiaosaamisen johtamisen koulutusohjelma (YAMK) Esko Johnson Ylivieska 3.2.2017

Upload: esko-johnson

Post on 29-Jan-2018

77 views

Category:

Education


2 download

TRANSCRIPT

Page 1: Toj tt-kt-3-2-2017

Toimintatutkimus kehittävän tutkimuksen

lähestymistapana

Teknologiaosaamisen johtamisen koulutusohjelma (YAMK)

Esko Johnson

Ylivieska 3.2.2017

Page 2: Toj tt-kt-3-2-2017

Tavoitteet• Tunnet toimintatutkimuksen ja

laajemminkin kehittämistutkimuksenlähestymistavan, mukaan luettuna menetelmälliset perusratkaisut.

• Tiedät perusasiat toimintatutkimuksen mahdollisuuksista, vahvuuksista, haasteista ja heikkouksista, omaan koulutusalaasi liittyen.

• Osaat luonnostella toimintatutkimussuun-nitelman.

• Tunnet raportoinnin logiikan ja omaat perustiedot tutkimusetiikasta.

Page 3: Toj tt-kt-3-2-2017

Sisältö• Interventio ja muutoksen aikaansaaminen

(vaiheittain) toimintatutkimuksen avulla• Tiedon luonne ja tiedon tuottaminen (ns.

”tiedonkeruu)”; analyysi- ja tulkinta-periaatteet sekä raportointitavat

• Toimijuus sekä toimijoiden roolit, osallistaminen ja osallistuminen toiminta-tutkimukseen

• Toimintatutkimuksen laatukriteerit• Kehittämistutkimuksen (design research)

pääperiaatteet• Raportoinnin logiikka• Tutkimusetiikka toimintatutkimuksessa

Page 4: Toj tt-kt-3-2-2017

Kuka tutkii/ketkä tutkivat?

• Tämä ei ole triviaali kysymys, vaan koskee tutkijaa/tutkijoita ja hänen/heidän toimijuuttaan, pyrkimyksiään, käsityksiään

• Muuttuvassa todellisuudessa, muuttuvassa kontekstissa

• Onko tutkija ”insider” vai ”outsider” suhteessa tutkittavaan ilmiöön?

Page 5: Toj tt-kt-3-2-2017

Mitä tutkitaan?

• Se mitä tutkitaan ei ole ”pysyvä” toimintatutkimuksen otetta sovellettaessa

– Tutkimustehtävä, lähtökohtaselvitys jne

– Iteratiivisuus/syklisyys

Page 6: Toj tt-kt-3-2-2017

Miten tutkitaan?• First person –tutkimus (subjektiivinen)

• Second person –tutkimus (intersubjektiivinen)

• Third person –tutkimus (objektiivinen)

• Joidenkin mielestä kaikki edellä olevat aspektit tulisi liittyä TT:een

• Voitko tutkia objektiivisesti ja puolueet-tomasti todellisuutta (ja muutosta), jos olet ”insider” suhteessa tutkittavaan yhteisöön ja sen tavoitteelliseen kehit-tämiseen?

Page 7: Toj tt-kt-3-2-2017

Miksi tutkitaan?

• Usein toimintatutkimus määrittyy avoimeksi ja joustavaksi toteutukseksi

• Sen vuoksi vastaus kysymykseen ”miksi?” ei ole (tarkasti) tiedossa tutkimuksen alussa

Page 8: Toj tt-kt-3-2-2017
Page 9: Toj tt-kt-3-2-2017

Lähtökohtia tutkimukselle

• Teorialähtöinen tutkimus

• Aineistolähtöinen tutkimus (erotetaan vielä aineistopainotteinen tutkimus)

• Induktiivinen logiikka

– Tutkimuksessa ei esitetä ja testata hypoteeseja; tulkinnallinen orientaatio

• Abduktiivinen logiikka

– Arvoituksen selvittämisen analogia

• Deduktiivinen tutkimuslogiikka

– Lähdetään liikkeelle hypoteesilla; vrt. ”perinteiset” labrat

Page 10: Toj tt-kt-3-2-2017
Page 11: Toj tt-kt-3-2-2017
Page 12: Toj tt-kt-3-2-2017

C. Tutkimuskysymys (-kysymykset)

• Nosta tutkimuskysymys (-kysymykset) selvästi esille tutkimusta suuntaavista muista lähtökohdista

• Käytännön ongelma (”pitää kehittää X”) vs. tutkimusongelma (”miten pitää tutkia kehittämistä joka on tässä (pian) meneillään”) vs. tutkimustehtävä (”mitä teen tässä tutkimuksessa, jotta..”) vs. tutkimuskysymys

• Tutkimuskysymykseen pitää vastata, ja sen vastaamiseen pitää keskittyä koko ajan – vaikka muotoutuu/tarkentuu tutkimuksen kuluessa

• Onko toimintatutkimus sitä että kuvataan miten käytännön ongelmaa yritettiin ratkaista?

Page 13: Toj tt-kt-3-2-2017
Page 14: Toj tt-kt-3-2-2017
Page 15: Toj tt-kt-3-2-2017

Kajaanin amk:n opinnäytetyöpakki

• https://www.kamk.fi/opari/Opinnaytetyopakki/Teoreettinen-materiaali/Tukimateriaali/Toimintatutkimus

- Periaatteet

- Piirteitä

- Erialaisia tutkimusprosesseja

- Toimintatutkimus vs. opinnäytetyö (Robson 2002)

Page 16: Toj tt-kt-3-2-2017
Page 17: Toj tt-kt-3-2-2017
Page 18: Toj tt-kt-3-2-2017
Page 19: Toj tt-kt-3-2-2017
Page 20: Toj tt-kt-3-2-2017
Page 21: Toj tt-kt-3-2-2017
Page 22: Toj tt-kt-3-2-2017

POHDINTAA

• Mistä voi tietää, että kyseessä on todellakin onnistunut toiminta-tutkimus?

• Mistä tunnistaa, että toimintatut-kimusta on yritetty tehdä mutta se ei ole toteutunut tai onnistunut?

Page 23: Toj tt-kt-3-2-2017

Pirkko Anttila 23

Ammatillisen t&k-hankkeen ominaispiirteitä ja arviointikriteereitä

(Pirkko Anttila 2006)

• Tarkoitettu työelämäkontekstiin - tuotantoon tai muuten käytännössä toteutettavaksi

• Uusi tai parannettu tuote tai palvelu - jonkin ongelman tai haasteen ratkaisu

– omintakeinen

– toteuttamiskelpoinen

– ratkaisua on koeteltu eli ratkaisun avulla perin juurin pengottu tai paranneltu

• Tulos ja vastaava tieto: selkeästi kuvailtavissaja kerrottavissa – ja hyödynnettävissä

• Hankittua tieto- ja osaamispääomaa voidaan soveltaa ja välittää edelleen

Page 24: Toj tt-kt-3-2-2017

Pirkko Anttila 24

Mitä Anttilan luonnehdinnasta näemme?

1. Tutkijuus (tutkijan toimijuus) asettuu tukevasti kontekstiin – käytännön tuntemus, sosiaalinen sidos/verkosto

2. Kehittäminen, parantaminen tai ongelman ratkaisu: oikeutettuja ja perusteluja

3. ”Missä on pihvi?” Näyttää että (1.) ja (2.) vahvistumisen lisäksi tarvitaan käsitteistämistä ja teoretisointia kontekstissa ja konteksista – teoreettiset linssit ja analyyttiset linssit ovat tarpeen rajatun tutkittavan todellisuuden näkemiseksi jonakin – siis tarvitaan uudenlaista oppimista

Page 25: Toj tt-kt-3-2-2017

Kieli ja viestintä ICT-alan arjesssa (2006) -1

Page 26: Toj tt-kt-3-2-2017

Kieli ja viestintä ICT-alan arjesssa (2006) -2

Page 27: Toj tt-kt-3-2-2017

Mitä tutkijan rooleja voi TT:een kuulua? Mitkä ovat tärkeitä? (Miksi?) Mitkä ovat vähemmän tärkeitä tai vääriä tutkijan

rooleja? (Miksi?) Mitä ko. rooleissa tapahtuu? Keskustele näistä:

Analyytikko, arvostelija/kriitikko, asianajaja,

asiantuntija, filosofi, ihmistuntija, innovoija,

kehittäjä, keskusteluttaja, konsultti, muutos-

agentti, neuvottelija, ongelmanratkaisija,

organisaattori, poliitikko, terapeutti,

tiedottaja/tiedonjakaja, tulkitsija, tuomari.

Page 28: Toj tt-kt-3-2-2017

Stringer osallistamisesta ja tutkijan roolista

”Usein toimintatutkimus nähdään tutkimusprosessina, joka perustuu asiantuntijan (practitioner) reflektioon työkäytänteistä. Vaikka työkäytänteiden reflektointi on varmasti tärkeä kaikissa yhteyksissä, olen jo pitempään ollut vakuuttunut siitä, että mikäli asiantuntijat juuttuvat omiin käsityksiinsä ja tulkintoihinsa, heiltä jää huomioon ottamatta työyhteisönsä jäsenten erilaiset muut näkemykset (worldviews) ja kokemukset todellisuudesta. Tällöin he eivät ymmärrä sitä perusdynamiikkaa, miten heidän asiakkaansa, yhteistyökumppaninsa tai opiskelijansa käyttäytyvät tai tulkitsevat kyseiset olosuhteet. Toimintatutkimus lähtee siitä olettamuksesta, että kaikki ihmiset joita asia, ongelma tai haaste koskee tai jotka vaikuttavat näihin jollakin tavoin, pitäisi olla osallisina tutkimuksessa.” (Stringer 2007, xv)

Page 29: Toj tt-kt-3-2-2017
Page 30: Toj tt-kt-3-2-2017

Toimintatutkimuksen laadun arviointi -1

• Tutkimustiedon tuottamisen ohella TT vaikuttaa ”reaaliaikaisesti erilaisten asiatilojen muutokseen edistämällä ja parantamalla niitä tavalla tai toisella” (Kuula 1999,11)

• Syvällisen tiedon tavoittaminen ja toimijoiden oppiminen, toimintatutkimuksen erityistapauksesta (case knowledge) on arvokkaampaa kuin ”geneerinen” yleistettävyys ja abstrakti teoriatieto (Flyvbjerg 2011)

• Prosessivaliditeetti (design research): syklisyys ja osallistaminen (Kiviniemi 2015)

• Toimintatutkimuksen synnyttämien teorioiden ja olettamusten pätevyys riippuu erityisesti siitä miten ne auttavat toimimaan järkevästi ja taitavasti, ts. validoimalla ne käytännössä (ei siis vain pyytämällä kommentteja/mielipiteitä)

Page 31: Toj tt-kt-3-2-2017

TOJ 2014 ja TOJ 2016 arvioita (n=63)

Kokonais-

arvos

Metodol. ja

tutkimusme-

net. esittely

TT:n prosessi-

maisuus

Intervention

selvittäminen

raportissa

Tutkijan

osallistum.

toimintaan

Tyyd-hyvä

(1-3), ka = 2.6 4 3,1 4,3 2,4

Erinomainen

(5) 4,8 5,4 5 4,6

Kaikki 2014 ja

2016 (ka=3.9) 4,4 4,4 4,6 3,4

Page 32: Toj tt-kt-3-2-2017

0 1 2 3 4 5 6 7

Miten metodologialuku on kirjoitettu ja miten se

avautuu lukijalle.

Toimintatukimuksen rajaus ja prosessimaisuus

Miten tutkimusraportti selvittää intervention

Miten käy ilmi kuinka tutkija Myllymäki itse

osallistui toimintaan ja oli mukana KPO:n

arkipäivässä

Kokonaisarvion 2, 3 tai 4 antaneet (Myllymäki)

E D C B A

0 1 2 3 4 5 6 7

Miten metodologialuku on kirjoitettu ja miten se

avautuu lukijalle.

Toimintatukimuksen rajaus ja prosessimaisuus

Miten tutkimusraportti selvittää intervention

Miten käy ilmi kuinka tutkija Myllymäki itse osallistui

toimintaan ja oli mukana KPO:n arkipäivässä

Kokonaisarvion 5 antaneet (Myllymäki)

L K J I H

EJ1

Page 33: Toj tt-kt-3-2-2017

Dia 32

EJ1 Esko Johnson; 28.1.2017

Page 34: Toj tt-kt-3-2-2017

0 1 2 3 4 5 6 7

Miten metodologialuku on kirjoitettu ja miten se avautuu

lukijalle.

Toimintatukimuksen rajaus ja prosessimaisuus

Miten tutkimusraportti selvittää intervention

Miten käy ilmi kuinka tutkija Myllymäki itse osallistui

toimintaan ja oli mukana KPO:n arkipäivässä

Kokonaisarvion 5 antaneet (Myllymäki)

L K J I H

0 1 2 3 4 5 6

Miten metodologialuku on kirjoitettu ja miten se

avautuu lukijalle.

Toimintatukimuksen rajaus ja prosessimaisuus

Miten tutkimusraportti selvittää intervention

Miten käy ilmi kuinka tutkija Myllymäki itse osallistui

toimintaan ja oli mukana KPO:n arkipäivässä

Kokonaisarvosanan 2 tai 3 antaneet (Myllymäki)

C B A

EJ1

Page 35: Toj tt-kt-3-2-2017

Dia 33

EJ1 Esko Johnson; 28.1.2017

Page 36: Toj tt-kt-3-2-2017

Toimintatutkimuksen laadun arviointi - 2

• Kiviniemi (2015): käytännöllinen validiteetti

• Luotettavuus: tutkija ja tutkimusprosessi

• Luotettavuus: osoitetaan raportoimalla yksityiskohtaisesti tutkimuksen kulku, aineiston hankinta ja johtopäätösten teko

– uskottavuus: vahvistaako raportin narratiivi e.m.?

– lukijan pystyy arvioimaan tutkimuksen luotettavuutta ja siirrettävyyttä muihin samankaltaisiin yhteyksiin

• TT-prosessin aikana tutkija joutuu jäsentämään ennakkokäsityksiään; pohtimaan omia näkemyksiään ja ratkaisujaan, yhtenä kohdejoukon toimijana ja sen kanssa dialogissa

(Mukaillen Flyvbjerg 2011; Grönfors 1982, 174–179; Guba & Lincoln 1989, 223–225; Kiviniemi 2015; Eskola & Suoranta 1998, 211–213; Koskinen ym. 2005, 254-263; Suojanen 1992)

Page 37: Toj tt-kt-3-2-2017

Toimintatutkimuksen laadun arviointi - 3

• Tulosten objektiivisuutta ei voi varmistaa pyrkimällä

sulkeistamaan tutkijan omat käsitykset tulkinnan

ulkopuolelle (haaste: objektiivisuus vs subjektivisuus)

• Tutkimus tukeutuu ajallisesti ja paikallisesti

rakentuvan, subjektiivisen ja muuntuvan

todellisuuden varaan

• Tieto on oman konstruoinnin tulosta (toiminnan

kohteesta/interventiosta) – tutkija ei voi sulkea pois

omia, subjektiivisia ja päämäärähakuisia, muutoksen

asiaa ajavia käsityksiään tutkimusprosessin ulkopuolelle(Mukaillen Grönfors 1982, 174–179; Guba & Lincoln 1989, 223–225; Eskola & Suoranta 1998, 211–213; Suojanen 1992)

Page 38: Toj tt-kt-3-2-2017

Kuula (2001) tutkijan rooleista

1. Tutkija asiantuntijana, muutoskokeilujen

ohjaajana; ulkopuolisena arvioijana ja seuraaja

2. Tutkija konsultin roolissa; hallitsee teoriat ja

menetelmät; auktoriteetti, neuvoja, opastaja

3. Tutkija osallistaa kohderyhmän jäsenet

aktiivisiksi toimijoiksi muutosprosessissa;

organisoi heidät pohtimaan ongelmien ratkaisuja

4. Tutkija välittää osallistumisen periaatteet,

organisoi dialogin sääntöjä noudattavia tilanteita

yhdessä osallistujien kanssa =>> uudet

käytänteet ja työn organisointi yhteisössä

Page 39: Toj tt-kt-3-2-2017

Toimintatutkimuksen perusasioita – 1Mistä on sitten kehittämisessä kysymys?

- Tekninen eli instrumentaalinen näkökulma

- Tulkinnallinen eli hermeneuttinen näkökulma

- Emansipatorinen eli uskomuksista ja

vääristymistä vapauttava näkökulma

- Nämä ovat nähtävissä tutkimuksen

tiedonintresseinä (Habermas 1974)

- vrt. esim. http://www.youtube.com/watch?v=Qg83f72_6Gw

http://www.youtube.com/watch?v=AbPL6A2ghOs

Page 40: Toj tt-kt-3-2-2017

TT:n päälähestymistavat (mukaillen Burns 2005) -1

Lähestymis-tapa

Tekninen Praktinen(tulkinnallinen)

Kriittinen

Filosofia Luonnontieteet Hermeneutiikka Kriittinen teoriaTodellisuus Mitattavissa Moninainen,

holistinen, konstruoitu

Nivoutuu sosiaalisiin ja poliittisiin hierarkioihin sekä valtarakenteisiin

Tutkimus-ongelma

Edeltä käsin määritelty

Määrittyy kontekstissa (ongelman-ratkaisuna)

Määrittyy kontekstissa, suhteessa esiin nouseviin arvoihin (problematisointi)

Tiedon asema

Erillinen, deduktiivinen

Induktiivinen, teoriaa tuottava

Kuin edellä + emansipatorinen, osallistava

Page 41: Toj tt-kt-3-2-2017

TT:n päälähestymistavat (mukaillen Burns 2005) - 2

Lähestymis-tapa

Tekninen Praktinen(tulkinnallinen)

Kriittinen

Ymmär-täminen

Tutkimuksen tarkoitus

Muutokset

Page 42: Toj tt-kt-3-2-2017

Entä metodioppaat?

- Metodioppaita lukemalla ei saa täyttä kuvaa TT:n prosessista ja vaatimuksista

- valitettavan usein esitetään TT:lle ennalta määritelty ”valmistusohje”, resepti

- Tutkimusraportitkin saattavat tukea mielikuvaa

- TT voikin olla omakohtainen ja rikkaaksi koettu matka

- Ei siis ”valmistamista” tai pelkkää tekniikkaa

Page 43: Toj tt-kt-3-2-2017
Page 44: Toj tt-kt-3-2-2017

MYYTTI VAI HYVÄ TT-KÄYTÄNNE? MIKSI?

1 TUTKIMUKSEN TOTEUTTAMINEN JA

TUTKIJAN ROOLI(T)

- Toimintatutkimuksessa tutkija on itse mukana,

mutta hänen pitää pysyä roolissaan,

puolueettomana tarkkailijana.

2 RAPORTOINNIN PERIAATTEITA

- Tutkimuksen lähtötilanne, tavoitteet sekä itse

tutkimusongelma selvitettävä lukijalle.

- Tutkimusmenetelmä tulee kertoa yksityiskohtaisesti, ja siitä pitää esittää teoria.

Page 45: Toj tt-kt-3-2-2017

Peruspalikat

Page 46: Toj tt-kt-3-2-2017

• Tiedonhankinta toteutetaan toimintatutkimuksen piirissä erilaisia menetelmiä (metodeja, tekniikoita)

valikoivasti ja luovasti yhdistäen- laadulliset tiedontuottamistavat ja –lähteet ovat luonnollisesti yleisimmät, mutta eivät ainoat

• Toimintatutkimuksessa pyritään (yhteiseen, jaettuun) ongelmanratkaisuun, interventioon ja muutokseen (alunperin Kurt Lewin 1946) – siis suuntaudutaan tulevaisuuteen; tavoite: ”muutos parempaan”

- toimintatutkija ei ole ulkopuolinen suhteessa kohdejoukkoon, organisaatioon ja sen arkeen, vaan omalla tavallaan osallistuva ja osallistava – ja siksi reflektiivinen/ refleksiivinen asiantuntija

Toimintatutkimuksen perusasioita – 2

Page 47: Toj tt-kt-3-2-2017

•Tutkimuskohteen tietyt ihmiset osallistetaan eri tavoin,

otetaan mukaan prosessiin – mutta suunnitelmallisesti

ja perustellusti

• TT:n analyysitasoilla (Kuusela 2005, 59-65) on

tässä ratkaiseva merkitys

• Tutkijan ja tutkimuskohteen välillä on yhteistyösuhde

jonkin kohteen ongelman ratkaisemiseksi

• Tutkijan kaksoisrooli: yhtäältä tehtävänä on ratkaista

ongelma, toisaalta saada aikaan tutkimuksellinen

(tieteellinen) kontribuutio (esim. Stringer 2007; Vähämäki

2008, 30)

Toimintatutkimuksen perusasioita – 3

Page 48: Toj tt-kt-3-2-2017

Heikkinen (2011)

Page 49: Toj tt-kt-3-2-2017

Koonti: Toimijuus, toimijoiden roolit ja osallistaminen

• Kurt Lewin (1946): tutkimus joka pelkästään tuottaa

kirjoja, ei riitä - mutta miten tämä agenda saadaan

toteutumaan?

• Miten voin/voimme/voidaan toimintatutkimuksen avulla

esim. parantaa toiminnan laatua ja tuoda käytännöllistä ja

teoreettista ymmärrystä erilaisiin konkreettisiin tilanteisiin?

• Toimintatutkimuksen synnyttämien teorioiden ja

olettamusten pätevyys ei riipu ensisijaisesti niiden

tieteellisestä totuusarvosta, vaan siitä miten ne voivat

auttaa toimimaan järkevästi ja taitavasti, siis validoimalla

ne käytännössä. Ks. http://fi.wikipedia.org/wiki/Pragmatismi

Page 50: Toj tt-kt-3-2-2017

McNiff & Whitehead (2002) TT:n haasteista

Centria ammattikorkeakoulu | www.centria.fi

Monissa organisaatioissa toimintatutkimus (TT) normali-soituu: asiantuntijat tunnistavat, että TT:a tehdessään he saattavat haastaa organisaatiossa vakiintuneita normeja. Sen vuoksi he valitsevat varovaisemman lähestymistavan, jotta TT ei aiheuttaisi harmia ja päänvaivaa ylemmällejohdolle. Jos TT kuitenkin otetaan vakavasti, siis sosiaalistatilannetta parantavana ja oikeudenmukaisuutta ja demokratiaa edistävänä, silloin kaikki TT:een osallistuvat on nähtävä ekspertteinä, jotka tuntevat oman elämismaail-mansa ja tarpeensa - ei pelkästään johto, opettajat jne. -vaan myös opiskelijat ja vanhemmat eli organisaationjäsenet laajasti ymmärrettyinä. Herää kysymys, ketkä tuleeosallistaa TT:een ja kuka päättää kenen tarinaa olisi syytäkuunnella. (McNiff & Whitehead 2002, 98)

Page 51: Toj tt-kt-3-2-2017

Design research eli suunnittelututkimus (1)

• Kutsutaan myös kehittämistutkimukseksi (ks.

Rukajärvi-Saarela 2015; Heikkinen 2015)

• Tutkimustapa/-perinne joka on lähtöisin

materiaalisten kohteiden tai järjestelmien

kehittämisestä tutkimuksella; soveltuu/sovellettu

myös ei-materiaalisiin kohteisiin

• Monissa lukemissani YAMK-toimintatutkimuk-

sissa on itse asiassa lähinnä kyse tästä

• Suomenkielistä kirjallisuutta saatavilla niukasti

Page 52: Toj tt-kt-3-2-2017

Design research eli suunnittelututkimus (2)

(1) Materiaalisten ja ei-materiaalisten kohteiden

kehittäminen tutkimuksella (research for design)

(2) Kehittämisen tutkiminen eli tutkimus jossa

tarkastellaan, miten kehittäminen (design) toimii ja

tapahtuu, ajassa ja paikassa (research into

design)

(3) Tutkimustapa, jossa tutkimus tapahtuu

kehittämällä ja kehittäminen tutkimalla (research

through design)

(Ks. lähemmin Baerenholdt ym. 2009)

Page 53: Toj tt-kt-3-2-2017

Järvinen (2007)

Page 54: Toj tt-kt-3-2-2017

Rukajärvi-Saarela (2015)

Page 55: Toj tt-kt-3-2-2017

Rukajärvi-Saarela (2015)

Page 56: Toj tt-kt-3-2-2017

Rukajärvi-Saarela (2015)

Page 57: Toj tt-kt-3-2-2017

Vrt. arvoituksen metafora laadullisessa tutkimuksessa

• Tutkimuksen metaforana on arvoituksen ratkaiseminen eli salapoliisina toimiminen (Alasuutari 1989)

• Tutkimuksen aineistoa kerätään, kunnes johtolangat vievät arvoitukseen ratkaisuun

• Todistusaineistoa ja näyttöä hankitaan eri tavoin, kunnes sitä on riittävästi

Page 58: Toj tt-kt-3-2-2017

Koonti: mitä opimme tästä?

• Kuinka toimintatutkija voi olla johdonmukainen ja pysyä "omalla tontillaan" – välttää kompromisseja joilla tutkimus vain vesittyisi ja kääntyisi itseään vastaan?

• Webropol-kyselyn vastaukset

Page 59: Toj tt-kt-3-2-2017

Tekemisestä ja lukemisesta tekstiin

Page 60: Toj tt-kt-3-2-2017

Mitä ja miten toimintatutkimuksessa raportoidaan?

• Tutkimuspäiväkirja pitää sinut ”oikealla tiell䔕 Aloita kirjoittaminen heti; kirjoita uudelleen ja

uudelleen• Kokeile piirtämistä, kaavioilla luonnostelua;

valokuvaamista ja videointia • Keskusteluita (digi-tallennettuina), muistioita,

(väliraportteja) ja sähköposteja kertynee paljon, • aloittelevalle toimintatutkijalle tulee miettimistä

systemaatiikan, kokonaisuuden ja yksityiskohtien hallitsemiseksi - aktiivisen tutkimusprosessin aikana

• Tämän vuoksi, älä siirrä kirjoittamista ”loppuvaiheeseen”

• http://www.fsd.uta.fi/menetelmaopetus/kvali/L4.html • http://www.tekniikka.oamk.fi/~thopeavu/materiaalit/hankkeidenraportointi.html• http://kirjasto.centria.fi/data/liitteet/2eea6740a67046e09b7111ce33eb7d24.pdf

Page 61: Toj tt-kt-3-2-2017

Metodologiakirjallisuuden käytöstä

• Metodologialuvussa sinun ei kannata edes yrittää

referoida kaikkea mitä olet lukenut TT:sta

• Käytä ko. luvussa ja pohdinnassa ym. vain

keskeistä, sinun tutkimuksesi kannalta perusteltua

ja päteväksi tunnustettua metodologiakirjallisuutta

• Muihin teksteihin (erit. ”reseptikirjoihin”) sinut

kannattaa ottaa hyvinkin kriittinen näkökulma

Page 62: Toj tt-kt-3-2-2017

Miten aineisto analysoidaan ja tulkitaan? - 1

• Määrällistä eli tekstipohjaista ym. aineistoa

(valitaan, karsitaan,) järjestellään ja

teemoitellaan

• Jäsentely ja tulkinta useissa vaiheissa

- Kannattaa kokeilla vaihtoehtoja, mutta

pysyä valitussa systemaattisesti

- Keskeinen aineisto tunnettava hyvin

- Tutkimusraportin kirjoittamiseen

varattava (riittävän) paljon aikaa!

- Katso Muuraiskangas (2013, 65-69)

Page 63: Toj tt-kt-3-2-2017

Mitä ja miten toimintatutkimuksessa raportoidaan? - 2

• Tutkimusraportissa voi varsin hyvin olla ”minä”-muoto vaikeasti tulkittavan passiivin sijasta (firstperson research vs. third person research)

- Francis Bacon (1620) "de nobis ipsis silemus” –(itsestämme vaikenemme)

• Löydä omintakeinen, toimintatutkimuksesi luonnetta, tapaa sekä prosessia (”tapahtumisen”, muutoksen luonnetta) autenttisesti kuvastava raporttimuoto• Perinteinen IMRD ei ole ainoa oikea rakenne!• Laita oma esiymmärryksesi => tarkentunut

ymmärrys näkyviin raportissa• Raportti-, haastattelu-, kyselyvastausten jne

sitaatit tuovat todentuntua, uskottavuutta, moniäänisyyttä ja luotettavuutta

Page 64: Toj tt-kt-3-2-2017

Toimintatutkimuksen (suunnittelun ja) raportoinnin malli -1 (Soveltaen Creswell 2001)

Johdanto

• Mikä on haasteena tai ongelmana? (ml käsitteistäminen eli

kirjallisuutta aiheesta)

• Mikä on se toiminta, kysymys, uudistus tms., johon

tutkimusinterventio kohdistuu ja johon tutkija osallistuu ja

osallistaa?

• Mikä on tutkimuksen tarkoitus ja tutkimustehtävä?

• Mitkä ovat tutkimuskysymykset? (Ongelmasta johdetut

yksityiskohtaiset kysymykset)

• Miten tutkimus rajautuu, mitkä ovat sen rajoitukset?

Page 65: Toj tt-kt-3-2-2017

Toimintatutkimuksen (suunnittelun ja) raportoinnin malli - 2 (Creswell 2001)

• Odotetut eettiset kysymykset ja näkökohdat

• Tutkimuksen merkitys

• Alustavat tutkimustulokset

• Odotetut toiminnan muutokset (tulokset ja hyöty)

• Liitteet (haastattelukysymykset, havainnointiaiheet,

aikataulutus, resurssit)

Page 66: Toj tt-kt-3-2-2017

Toimintatutkimuksen suunnittelun (ja raportoinnin) malli - 3 (Creswell 2001)

Menetelmälliset kysymykset

• Laadullisen tutkimuksen piirteet

• Laadullisen tutkimuksen strategia

• Tutkijan rooli

• Aineiston tuottamismenetelmät sekä yhteistoiminta

osallistujien kanssa

• huomaa TT:n käytännönläheisyys, konstruoituvuus ja

tulevaisuusorientaatio

• Aineiston kirjaamisen ja tallennuksen menetelmät

• Aineiston analyysin menetelmät

• Tulosten validoinnin strategiat

• Tutkimusnarratiivi eli raportin/kerronnan rakenne

Page 67: Toj tt-kt-3-2-2017

Vrt. empiirisen tutkimuksen kuvaus

1. Tutkimustehtävän esittely

2. Tutkimuksen paradigma

3. Asetelma, design

a. otannan strategia

b. osanottajien luonnehdinta

c. aineiston ”keruun” menetelmät ja

metodit

Page 68: Toj tt-kt-3-2-2017

Vrt. empiirisen tutkimuksen kuvaus

4. Aineiston analyysin strategia

5. Tutkimuksen tulokset

6. Johtopäätökset

7. Oma arvio tutkimuksesta. Mitä

metodologisia ja käsitteellisiä ideoita

voisi käyttää jatkotutkimuksessa ym.

Tutkimuksen heikkoudet ja vahvuudet

Page 69: Toj tt-kt-3-2-2017

Raporttirakenteen vaihtoehtoja

• Raportti etenee lähinnä asioiden ja käsitteiden (temaattisen) tarkastelun pohjalta

– Esim. Muuraiskangas (2013), Räsänen (2014)

– Mitä vahvuuksia/hyviä puolia? Mitä mahdollisia heikkouksia?

• Raportti eteen (lähinnä) TT-prosessia kuvaten

– Esim. Vilén (2011), Leinonen (2010)

– Mitä vahvuuksia/hyviä puolia? Mitä mahdollisia heikkouksia?

Page 70: Toj tt-kt-3-2-2017

Muuraiskangas (2013)

Page 71: Toj tt-kt-3-2-2017

Vilén (2011)

Page 72: Toj tt-kt-3-2-2017

Raportti ja sen kieli• ”X:n kehittäminen [yritys] Y:ssä” - staattinen,

lattea ja jopa luotaan työntävä raportin nimi

– Raportin nimi ja alalukujen otsikot: tarina, juoni, kerronnallinen eheys

– Kiipulalainen kuntoutusymmärrys - Yhteinen ymmärrys kuntoutumisesta rakentuu kumppanuudessa (Henttonen 2015)

• Käytä autenttisia, tuoreita ja mielenkiintoisia kielikuvia ja ilmaisuja

– ”Tiedon kerääminen” => ”tiedon tuottaminen”

– Joku teki/sanoi jotakin vs. jotakin tehtiin/ sanottiin

– Yksikön tai monikon 1. persoonan käyttö vs. passiivin käyttö

Page 73: Toj tt-kt-3-2-2017

Laatua,

laatua!

Page 74: Toj tt-kt-3-2-2017

Ei saisi olla liian kiire, ettei tule virheitä!

Page 75: Toj tt-kt-3-2-2017

Miksi toimintatutkimus on haastavaa? - 1

• Enemmän kuin ”tavallinen” tutkimus: todellisuutta

tutkitaan sen muuttamiseksi; todellisuutta yritetään

muuttaa (interventiolla), jotta sitä voitaisiin tutkia

(Stephen Kemmis)

• Mallit puuttuvat – toimintatutkijan on syytä hankkia monipuoliset tiedot ja taidot (ml ”people skills”) ja osoittaa kärsivällisyyttä, tilannetajua ja analyysikykyä

• Toimintatutkimus muotoutuu muuttuvaa todellisuutta heijastelevan tutkimuksen raportoinnissa (flexible design, esim. Robson 2011), ja se korostaa merkityksenantojen moninaisuutta;

• Dialogi kohdejoukon kanssa, tutkijan reflektio; syklisyys, temporaalisuus, konstruoituminen

Page 76: Toj tt-kt-3-2-2017

Miksi toimintatutkimus on haastavaa? - 2

• Toimintatutkijan ”tuplarooli” saattaa olla vaativa ja sen kehittyminen viedä paljon aikaa (ajan haaste)

• Hyvä toimintatutkija kehittyy empaattiseksi, jotta hän osaa tuoda esiin kohdejoukon kokemukset (kasvun ja ymmärryksen haaste) - raportin lukijaa kiinnostaa tämä prosessi

• Paikallisen teorian (Gummesson 2000, 96) oikeutus ja painotus ehkä toimivat, mutta...

• Kieli ja kielikuvat: tulkinnat (merkityksenannot) todellisuudesta ja itse tutkimuksesta saattavat vaihdella suuresti eikä niitä tule sanoilla pakottaa samaan muottiin (kielen haaste) (Esim. Stringer 2007, 187-

215; Vähämäki 2008, 29-41)

Page 77: Toj tt-kt-3-2-2017
Page 78: Toj tt-kt-3-2-2017

Mitä on syytä muistaa toimintatutkimuksen etiikasta? - 1

• Laadi tutkimussuunnitelma (kohdejoukon

kielellä), hanki tutkimuslupa ja pyydä kirjalliset

tutkimushenkilöiden suostumukset (muista

huolellisuus, yksityiskohtaisuus, avoimuus)

• Tutkijana pohdi eettisiä kysymyksiä, jotta

tutkimuksesi ratkaisut ovat eettisesti kestävät

• Takaa anonyymisyys tutkimuksen aikana,

suunnittele miten se tulee esiin raportoinnissa

(mutta on mahdotonta välttää, etteivät

”sisäpuolella” olevat tunnistaisi toisiaan)

Page 79: Toj tt-kt-3-2-2017

Mitä on syytä muistaa toimintatutkimuksen etiikasta? - 2

• Empaattisuus ja huomaavaisuus kohderyhmän toimijoita

kohtaan

- Lähtökohta: toimintatutkija ja -tutkimus parantavat

sosiaalista tilannetta (esim. Stringer 2007);

- Mieti siksi vuorovaikutustasi, omaa rooliasi ja

viestintätapaasi jatkuvasti

• Lueta tutkimustekstiäsi säännöllisesti kohdejoukolta ja

pyydä kommentteja (member checking –menettely)

– TT-raportin kirjoittajana sinä vastaat tutkimustekstistäsi

viime kädessä (sis. vastuu moniäänisyyden tulkinnoista)

Page 80: Toj tt-kt-3-2-2017

Tutkimuksen ja tutkijan etiikka - 1

• Eettiset kysymykset koskevat kaikkia tutkimuksen vaiheita - suunnittelusta loppuun saakka (raportointiin ja tiedon jakamiseen asti)

- Miten tiedotat ja kerrot tutkimuksesta?

• Integrity (rehellisyys itseä kohtaan, itselle ja omassa tutkimustyössä; ”sisäänpäin”) ja honesty (rehellisyys muita kohtaan, ”ulospäin”)

• Eettiset kysymykset saattavat syntyä itse tutkimus-projektista ja sen luonteesta, tutkimuskontekstista ja sen jännitteistä, taloudellisista, poliittisista ja maailmankatsomuksellisista sidoksista; tutkimukseen osallistuviin henkilöihin, ryhmiin ja tahoihin liittyvistä näkökohdista tai pulmista, tiedon keruun/tuottamisen ja analysoinnin pulmista ja raportoinnin haasteista http://fi.wikipedia.org/Hyvä_tieteellinen_käytäntö

Page 81: Toj tt-kt-3-2-2017

Tutkimuksen ja tutkijan etiikka - 2

• Etiikka koskee myös tutkimustoiminnassa ja tieteessä yleisesti tunnustettujen toimintatapojen noudattamista, muun muassa:

– Huolellisuus ja tarkkuus tutkimustyössä

– Sen erottaminen, mikä on omaa työtä, aineistoa ja tekstiä, muiden tutkijoiden työn kunnioittaminen

– Rahoituslähteiden ja tutkijaa avustaneiden maininta

• Eettisten kysymysten käsittelyyn ei ole kiistattomia tai patenttiratkaisuja, eikä niihin voi kovin hyvin varautua, mutta menettelyohjeistoja ja muuta kirjallisuutta löytyy

– Periaatteessa on syytä olla tarkkana koko ajan!

• Pelkästään muiden tutkimusraportteja lukemalla on vaikea oppia, miten hyvä tieteellinen käytäntö toimii ja ilmenee, joten kannattaa keskustella ohjaajan kanssa!

(Hirvonen 2006)

Page 82: Toj tt-kt-3-2-2017

Määritelmiä ja näkökohtia

• ”In broad terms, the ethical considerations within a piece of research aim to ensure that no harm, or ’bad’ is experienced by the researcher or the respondents before, during or after the conduct of the research project” (Stokes 2011, 43)

• Toimintatutkijan eettisiin periaatteisiin kuuluvat muun muassa:

– Muiden hyvinvoinnin ja hyvän edistäminen, vahingon (harm) aiheuttamisen välttäminen

– Luottamuksellisuus, rehellisyys, vastuullisuus; avoimuus, läpinäkyvyys (erit. yhteisöllinen TT)

– Oikeudenmukaisuus ja tasapuolisuus

– Ihmisten oikeuksien ja arvon kunnioittaminen

(James, Slater, Bucknam 2012, 50-66 - myös http://www.tenk.fi/ohjeet.html)

Page 83: Toj tt-kt-3-2-2017

Suostumus eli informed consent

• Tutkimukseen osallistuville (toimijoille, tutkimushenkilöille) tulee kertoa riittävästi tutkimuksesta

– myös ”hissijuttu” (selonteko) valmiina arkisiin keskusteluihin

• Henkilöillä on oikeus päättää itse tutkimukseen osallistumisesta ja osallistumisen keskeyttämisestä

– KYSMYS: Voiko esimies/organisaatio määrätä henkilön osallistumaan? Tai voiko päättää, että ”kaikki” osallistuvat?

• Tapana sopia (kirjallisesti tai suullisesti) henk.koht. tutkimustietojen luottamuksellisuudesta ja osallis-tujan nimettömyydestä tai vastaavasti päättää identiteetin paljastamisesta tutkimusraportissa

– Joskus syytä tarkistaa suostumus vaihe- tai toimenpidekohtaisesti!

Page 84: Toj tt-kt-3-2-2017

Salaileva tutkimusmenettely

• Mitä etuja, hyötyä, haittoja tai riskejä liittyy ”tutkimustiedon keruuseen”, josta ei ole kerrottu tutkimuskohteen jäsenelle?

(vrt. Koskinen, Alasuutari & Peltonen 2005, 280-282)

Page 85: Toj tt-kt-3-2-2017

Esimerkki 1 suostumuksen neuvottelusta

(….) opetuksen arviointi

Pyydämme Sinua vastaamaan tähän (…) opettajille suunnattuun arviointikyselyyn.

Tutkimme arviointiin liittyviä käsityksiä ja kokemuksia sekä arviointikäytäntöjä. Kysymme myös, mitä opettajat haluaisivat parantaa tai kehittää arvioinnissaan.

Kyselyn tavoitteena on pedagogisten käytäntöjen kehittäminen ja jakaminen, ja juuri tällä tavoin haluamme kehittää opetuksen ja oppimisen laatua (…) koulussamme.

Luottamuksellisuus: Käsittelemme antamiasi tietoja luottamuksellisesti ja takaamme, ettei raportoinnissa paljasteta vastaajien henkilöllisyyttä. Siksi pyydämme Sinua vastaamaan rehellisesti ja avoimesti.

Kiitos yhteistyöstä!

TerveisinN.N.

Page 86: Toj tt-kt-3-2-2017

Tutkimuslupa

• Sovitaan organisaation edustajan kanssa, heti tutkimuksen alkuvaiheessa

– Joskus luvan saamiseen yrityksiltä voi kulua aikaa (lakimiesten lausunnot tms)

• Koskee lupaa käyttää (jotakin) ja pääsyä (johonkin) tietyssä tutkimustarkoituksessa

• Asiallista mainita tutkimusprojektin taustat, tavoitteet/odotukset, prosessi sekä raportointi ja tiedotus

• ”Salaiseksi julistaminen sotii tieteen avoimuuden ja julkisuuden periaatteita vastaan ja on erityisen soveltumaton (…) opinnäytteiden käsittelytavaksi”(Koskinen, Alasuutari & Peltonen 2005, 284)

Page 87: Toj tt-kt-3-2-2017

Tutkimusvilppi

• KYSYMYKSIÄ:

1 Miten käsität tutkimusvilpin? Mitä voi olla tutkimusvilppi (toimintatutkimuksessa)? Mitä se ei ole?

2 Miten tutkimusvilppi käsitellään korkeakoulussasi?

Page 88: Toj tt-kt-3-2-2017

Arviointitutkimuksen lähtökohtia

• Asian tai toiminnan arvon, merkityksen tai ansion määrittelemistä – myös päätöksentekoon, malleihin ym.

– Kysymysten asettelu ja kriteerit voidaan ”antaa” tai neuvotella toimijayhteisössä

• Arviointi tuottaa arvostelman (hyödyllistä tietoa/ palautetta) tutkimuksen kohteen arvosta, ansiosta tai merkityksestä

– Arviointiprosessi voi olla ”tuomareiden” (so arviointitutkijoiden, auditoijien) tai toimijoiden kanssa (läheisessä) yhteistyössä toteutettu

– Sosiaalinen ja kommunikatiivinen arvioinnin toteuttamistapa lienee vaativin (vrt. yhteisöllinen TT)

• Arvostelman eli tuloksen osana (pragmaattisia) suosituksia tai ehdotuksia – esim poliittinen tai yrityksen päätöksenteko ja strategiat; malli/mallinnus, käytänteet (vrt. Anttila 2005, 449-468)

Page 89: Toj tt-kt-3-2-2017

Arviointitutkimuksen suuntauksia -1

• Realistinen arviointitutkimus (ks. Robson 2001, Robson 2011, 201-225)– Eri osapuolet (toimijat, asianosaiset) jotka ovat mukana

palvelussa tai toiminnossa (program)– Arviointi tehdään paikallisesti käytännön tarpeisiin, lyhyellä

aikajaksolla ja rajallisilla resursseilla– Esim Robson (2001) Käytännön arvioinnin perusteet on

kirjoitettu selkeästi ja toimijalähtöisesti, kuitenkaan tinkimättä mistään

– Arvioinnin hyvyys: käyttökelpoisuus, toteuttamiskelpoisuus, eettinen hyväksyttävyys, tarkkuus

• Käyttäjälähtöinen arviointi (utilization focused evaluation), Patton (2008) – Arvioinnin merkitys tai arvo määräytyy sen hyödyntämisen ja

todellisen käytön perusteella– Arvioinnin oletetut käyttäjät ja oletetut käyttötavat– Tunnustetaan, ettei arviointi ole neutraalia, arvovapaata

Page 90: Toj tt-kt-3-2-2017

Arviointitutkimuksen suuntauksia - 2

• Empowerment evaluation (”voimaannuttava arviointi)” esim. Fetterman (1996)

– Autetaan ihmistä auttamaan itse itseään (vrt. emansipatorinen tiedonintressi)

– Arviointikohteena olevan yhteisön jäsenet osallistuvat arviointia koskevaan päätöksentekoon

– Kaikki oppivat toinen toisiltaan

– Tieto/käsitykset syvenevät prosessin aikana, systemaattisessa ja jaetussa tiedon luonnissa

– Toiminnallisesti vaiheistettua ongelmanratkaisua (vrt yhteisöllinen TT)

Page 91: Toj tt-kt-3-2-2017

KIRJALLISUUS HUOM! keskeisin aiheen kirjallisuus lihavoitu. Lisäksi muista etsiä ja lukea toimintatukimuksia theseus.fi –kirjastosta! Anttila, P. 2005. Ilmaisu, teos, tekeminen ja tutkiva toiminta. Hamina: Akatiimi.

Burns, A. 2005. Action research: an evolving paradigm? Language Teaching 38, 57-74.

Collins, A., Joseph, D. & Bielaczyc, K. 2004. Design research: Theoretical and methodological issues. Journal of the Learning Sciences, 13 (1), 15–42.

Cresswell, J. 2003. Research Design. Qualitative, Quantitative and Mixed Methods Approaches. Thousand Oaks, CA: SAGE.

Elliott, J. 1991. Action Research for Educational Change. Milton Keynes: Open University Press.

Hirvonen, A. 2006. Eettisesti hyvä tutkimus. Teoksessa Hallamaa, J., Launis, V., Lötjönen, S. ja Sorvali, I. (toim.) Etiikkaa ihmistieteille. Helsinki: SKS.

Eskola J. & Suoranta J. 2001/1998. Johdatus laadulliseen tutkimukseen. Tampere: Vastapaino.

Fetterman, D. 2001. Foundations of empowerment evaluation. Thousand Oaks, CA: SAGE.

Flyvbjerg, B. 2011. Case study. Teoksessa N.K. Denzin & Y.S. Lincoln (toim.) TheSAGE Handbook of Qualitative Research (4. painos). 301-316.

Forsell, M. Johdanto tieteelliseen kirjoittamiseen. Centria ammattikorkeakoulu. Saatavilla: http://kirjasto.centria.fi/data/liitteet/2eea6740a67046e09b7111ce33eb7d24.pdf

Page 92: Toj tt-kt-3-2-2017

Gummesson, E. 2000. Qualitative methods in management research. Thousand Oaks, CA: SAGE.

Heikkinen, H. 2015. Toimintatutkimus: kun käytäntö ja tutkimus kohtaavat. Teoksessa R. Valli & J. Aaltola (toim.) Ikkunoita tutkimusmetodeihin 1 — Metodin valinta ja aineistonkeruu: virikkeitä aloittelevalle tutkijalle. Jyväskylä: PS-kustannus, 204–219.

Heikkinen, H. & Syrjälä, L. 2006. Tutkimuksen arviointi. Teoksessa H. Heikkinen, E. Rovio & L. Syrjälä (toim.) Toiminnasta tietoon. Toimintatutkimuksen menetelmät ja lähestymistavat. Helsinki: Kansanvalistusseura, 144-162.

Heikkinen, H., Kontinen, T. & Häkkinen, P. 2008. Toiminnan tutkimuksen suuntaukset. Teoksessa H. Heikkinen, E. Rovio & L. Syrjälä (toim.).Toiminnasta tietoon. Toimintatutkimuksen menetelmät ja lähestymistavat. Helsinki: Kansanvalistusseura, 39–76.

Hirsjärvi, S. & Hurme, H. 2008. Tutkimushaastattelu: Teemahaastattelun teoria ja käytäntö. Helsinki: Gaudeamus.

James, E.A., Slater, T. & Bucknam, A. 2012. Action research for business, nonprofit and public administration. Thousand Oaks, CA: SAGE.

Kemmis, S. & Wilkinson, M. 1998. Participatory action research and the study of practice. Teoksessa Athew, B., Kemmis, S ja P. Weeks (toim) Action research in practice. Partnerships for social justice in education. London: Routledge. (Saatavilla Ebrary-sähköisessä kirjastossa.)

Koskinen, I., Alasuutari, P. ja Peltonen, T. 2005. Laadulliset menetelmätkauppatieteessä. Tampere: Vastapaino.

Page 93: Toj tt-kt-3-2-2017

Kvale, S. 1996. InterViews. An introduction to qualitative research interviewing. Thousand Oaks, CA: SAGE.

Leinonen, M. 2010. Sähköisen rakenteisen kirjaamisen kehittämisprosessi Kainuun keskussairaalan lastenpsykiatrian osastolla. Kajaanin ammattikorkeakoulu. Saatavilla: http://publications.theseus.fi/handle/10024/16253

McNiff, J. & Whitehead, J. 2002. Action Research: Principles and Practice (2nd Edition) London: Routledge.

McNiff, J & Whitehead, J. 2000. Action Research in Organisations. Florence, KY: Routledge. (Saatavilla Ebrary-sähköisessä kirjastossa)

Muuraiskangas, M. 2013. Osaamisen arviointi, kehittäminen ja palkitseminen. YAMK-opinnäytetyö. Centria ammattikorkeakoulu. Saatavilla:http://publications.theseus.fi/handle/10024/59835Patton, M. 2008. Utilization-focused evaluation. (4th ed.). Thousand Oaks, CA:

SAGE.Pirinen, A. 2004. Toimintatutkimus käytettävyyskoulutuksen järjestämisestä.

Tietojärjestelmätieteen Por Gradu -tutkielma. Jyväskylän yliopisto. Saatavilla: https://jyx.jyu.fi/dspace/bitstream/handle/123456789/12360/G0000719.pdf

Robson, C. 2011. Real world research. (3rd ed.) Thousand Oaks, CA: SAGE.

Robson, C. 2001. Käytännön arvioinnin perusteet.Tampere: Tammer-Paino.

Page 94: Toj tt-kt-3-2-2017

Rukajärvi-Saarela, M. 2015. Tutkimuksellisuudesta innostusta alakoulujen kemian opetukseen. Kehittämistutkimus osallistavan luokanopettajanperus- ja täydennyskoulutuksen kehittämisestä. Jyväskylä: Jyväskylän yliopisto. Saatavilla: https://jyx.jyu.fi/dspace/bitstream/handle/123456789/47732/978-951-39-6394-1_vaitos_20151127.pdf?sequence=1

Ruusuvuori, J. & Tiittula, L. 2005. (toim.) Haastattelu: Tutkimus, tilanteet ja vuorovaikutus. Tampere: Vastapaino.

Räsänen, T. 2014 Asiantuntijaorganisaation palkitsemisjärjestelmänkehittäminen. Case: Metropolia Ammattikorkeakoulu. YAMK-opinnäytetyö. Metropolia Ammattikorkeakoulu. Saatavilla:http://www.theseus.fi/handle/10024/80064

Stokes, P. 2011. Key concepts in business and management research methods. New York, N.Y.: Palgrave.

Stringer, E. 2007. Action Research (3r ed.). Thousand Oaks, CA: SAGE.Suojanen, U. 1992. Toimintatutkimus koulutuksen ja ammatillisen kehittymisen

välineenä. Loimaa: Finn Lectura.Tashakkori, A. & Teddlie, C. 1998. Mixed metodology. Combining qaulitative and

quantitative approaches. Thousand Oaks, CA: Sage.Vilén, S. 2011. Suomen Lehtiyhtymän sivunvalmistuksen kehittäminen. YAMK-opinnäytetyö. Metropolia Ammattikorkeakoulu. Saatavilla:

http://theseus.fi/bitstream/handle/10024/34757/Sari%20Vilen_opinnayte.pdf