6:AM ei alkanut aamukuudelta – kuudes Altmetrics-konferenssi | 6:AM did not start at six in the morning – the 6th Altmetrics Conference

(Please, scroll down to read in English.)

Altmetriikka

Altmetriikka (altmetrics) tulee sanoista alternative ja metrics. Bibliometriikan eräänlaisena täydentäjänä myös altmetriikka liittyy tieteen ja tieteellisen julkaisemisen näkyvyyden mittaamiseen. Altmetriikka mittaa nimenomaan verkkojulkaisemista, esimerkiksi tutkimuksen näkyvyyttä verkossa klikkausten, latausten, blogikirjoitusten, kirjanmerkkien, tykkäysten ja twiittien määrinä. Se ei kuitenkaan ole vaikuttavuusmittari, vaan osa tieteellisen informaation suodattamista. Oikeastaan se ei edes ole vaihtoehtoista metriikkaa, vaan lisäke, jota tarvitaan verkkojulkaisemisen ja datan uudenlaisen saatavuuden aikana.

6:AM

Osallistuin lokakuun toisella viikolla kuudenteen Altmetrics-konferenssiin, joka pidettiin tällä kertaa Stirlingin yliopistossa Skotlannissa. 6:AM-konferenssi oli kaksipäiväinen 9.-10.10. ja osallistuin pelkästään siihen, mutta konferenssia edelsi yksipäiväinen ”epäkonfrenssi” (do-a-thon) ja seurasi työpajapäivä (workshop). Myös konferenssissa oli epäkonferenssimaisuutta. Emme istuneet riveissä, vaan pyöreissä kahdeksan ihmisen pöydissä, joissa keskustelu ja tutustuminen käy(nee) muita muotoja helpommin.

Ensimmäisenä päivänä löysinkin itseni Euan Adien (Overton.io) vierestä. Hän on Altmetricin perustajia, jonka artikkelia “The Rise of Altmetrics” (teoksessa: Altmetrics : a practical guide for librarians, researchers and academics) olin lukenut matkalla Skotlantiin. Adie on todennut, että koska informaatiota on aina liikaa, on tärkeää suodattaa laadun näkökulmasta, karsia pois epärelevantti ja huonolaatuinen sisältö. Altmetriikassa tähän voidaan käyttää digitaalista oppineisuutta, jonka työvälineisiin kuuluvat esimerkiksi yhteinen viitteidenhallinta ja jakaminen verkossa, joukkoistaminen, käyttäjien yhdessä tekemä metadata, “post-publication review”. Hänen altmetriikkaohjeistukseensa kuuluu avoimuus: indikaattoria käytettäessä sen takana olevaan dataan pitää olla pääsy, tuon datan pitää olla niin avointa kuin mahdollista ja datan pitää olla relevanttia.

Maisema

Adie piti myös yhden kiinnostavimmista esityksistä “Mapping the Policy Landscape” todeten, että käsite “policy document” – joka voi ilmestyä kirjan muodossa, mutta myös blogipostauksena, tutkimusjulkaisuna, työpaperina, raporttina jne. – on vaikeasti määriteltävä, muuttuva, epäakateeminen, käytännöllinen, poliittinen, mutta aina kirjoitettu muuttamaan toimintatapaa tai käytäntöä. Se voi olla kansainvälinen, kansallinen, alueellinen tai jopa korttelikohtainen. Tämän tyyppisistä julkaisuista kolmannes viittaa muihin vastaaviin dokumentteihin, kolmannes tieteelliseen tutkimukseen, kuudesosa mediaan ja loput lainsäädäntöön ja muuhun vastaavaan. Viittaus voi olla suora, esimerkiksi hoitosuositukseen, mutta voi muodostaa myös ketjun esimerkiksi sanomalehden kautta blogiin, jonka kautta työpaperiin. Ei siis voida mitata yksinkertaisia viittauksia, vaan muodostuu viittausten verkko, joka muodostuu arviolta 10 000 eri lähteestä. Altmetriikan mittarit voivat siis olla todella monimutkaisia verrattuna perinteisiin bibliometriikan mittareihin.

Tervetuloa

Säkkipillin toivotettua meidät tervetulleiksi Skotlantiin ja tutkimus- ja innovaatiopalveluiden johtaja John Rogersin Stirlingin yliopiston kampukselle sekä Catherine Williamsin (Altmetric) avattua konferenssin, piti ensimmäisen keynote-puheen “Beyond Bibliometrics” Martin Kirk (King’s College London, UK). Hänen tehtävänään on huolehtia siitä, että yliopistolla on parhaat välineet ja että sen tutkimuksen näkyvyys on niin hyvä kuin vain voi olla. Hän esitti paljon pohdittavaa siitä, mikä metriikka palvelee milloinkin, ja kenen vastuulla altmetriikka organisaatiossa on. Huomioidaanko se strategiatyössä, onko se tutkimushallinnon hallussa, kuuluuko se tutkijoille, tekeekö sitä kirjasto vai kenties viestintä? Joka tapauksessa altmetriikka kuuluu julkaisustrategisiin työkaluihin. Avoimesti julkaistu saa enemmän viittauksia ja muuta huomioita kuin maksumuurien takana julkaistu – jos ei julkaista avoimesti, näkyvyys ja maine kärsivät.

Kohokohtia

Kaikkiaan kahdessa päivässä pidettiin kaksi keynote-esitelmää, yksi “Highlight Talk”, kaksi paneelikeskustelua ja 26 muuta esitystä.

Altmetrics in Action -session kiinnostavin esitys oli mielestäni Rebecca Welzenbachin (University of Michigan Library, USA) “Beyond the “Cool” Factor: The Challenge of Making Alternative Metrics Indispensable”. Hän kertoi, miten heillä hyödynnetään Altmetric Explorer -työkaluja ja miten altmetriikan avulla selvitettävä näkyvyys ja vaikuttavuus kiinnostaa sekä viestintää että tutkimushallintoa. Welzenbach on “research impact librarian”, jollainen olisi varmasti hyvä olla jokaisessa yliopistossa. Samassa sessiossa otsikolla “Collaborating to Target Doctoral Students and Postdoctoral Staff” puhunut Robyn Price (Imperial College London, UK) korosti laadun ja tunnettuuden merkitystä kertoessaan kiinnostusta herättävästi, miten altmetriikan työkaluja opetetaan osana kurssia nimeltä “Digital academic skills” väitöskirjatutkijoille ja hyödynnetään myös post-docien hakemuksissa.

The Researcher View -sessiossa Mithu Lucraft (Springer Nature) puhui muun muassa siitä, mikä tutkijoita kiinnostaa ja mistä he välittävät, kuten kiinnostaako heitä tutkimuksen vaikuttavuus akateemisen maailman ulkopuolella ja merkitys avoimuudella on juuri siihen. Koska viittauksia on helppo seurata, niitä usein ja monilla aloilla pidetään tärkeimpinä, joten tukea myös muiden seurantavälineiden käyttämiseen ja ymmärtämiseen tarvitaan. Samassa sessiossa Rachel Miles (Virginia Tech, USA) puhui tutkimuksen arvioinnista ja sen vaikutuksesta tutkijoiden palkkaukseen korostaen, että arviointimenetelmien pitää olla avoimia.

Vain yhden session ajaksi osallistujajoukko jakaantui kahtia. Osallistuin otsikon “Rumor Has It: How Exploring Research Engagement through Metrics Transforms Student Learning” alla pidettyyn työpajaan. Rachel Miles ja Amanda MacDonald (Virginia Tech, USA) kertoivat ja demonstroivat käytännössä, miten he opettavat altmetriikkaa 1.-2. vuoden opiskelijoille.

Decoding the Data -sessiossa “Measuring knowledge mobilization for grant-funded research using bibliometric, patent and policy indicators” oli Ben McLeishin (Altmetric) otsikkona. Hän korosti, että näiden aineistojen osalta Altmetric– ja Dimensions-tyyppisten palveluiden avulla voidaan mitata ideoita ja käsitteitä, muttei vaikuttavuutta. Hän puhui myös tutkimuksen tuottavuudesta, jota voidaan vertailla esimerkiksi rahoitusta saaneiden julkaisujen määrällä tutkijaa kohti eri maissa. Maria Levchenko (Europe PMC/EMBL-EBI), jonka kanssa juttelin useammallakin kahvitauolla, kertoi aiheesta “Exploring the Landscape of Curated Publications in Biology”. Biokuraattori kuratoi, kerää, kommentoi ja validoi biologisten ja organismitietokantojen tietoa. Kyse on biotutkimuksen tutkimusdatan laadunvalvonnasta ja kuvailusta. Hän puhui biokuratoinnin (biocuration) arvosta ja kysyi muun muassa, mikä tekee paperista kuratoitavan, korreloiko kuratointi laadun kanssa ja johtaako kuratointi suurempaan viittausmäärään? “Can the Impact of Grey Literature be Assessed?” kysyi Matthew Bickley (University of Wolverhampton, UK) ja perehdytti kuulijoita siis siihen, miten mitata niin sanotun harmaan kirjallisuuden – jota ei siis itse asiassa ole julkaistu – vaikuttavuutta. Andy Miahin puhe käsitteli kansalaistiedettä ja tieteen viestimistä eri kanavilla ja menetelmillä (kuvat, videot, performanssit, virtuaalitodellisuus, festivaalit…) sekä sen tyyppisen toiminnan vaikuttavuuden mittaamista. Hän korosti, että tieteentekijöiden tulee olla ensiksi kansalaisia ja vasta toiseksi tutkijoita.

Muissa konferenssin esityksissä käsiteltiin muun muassa rahoittajien näkökulmia, joidenkin tutkimusalojen vaikuttavuuden todella pitkää aikajännettä, tutkimuksen elinkaarta yleensä, kehitteillä olevia uusia malleja tieteen ja tutkimuksen indikaattoreiksi, tiedepodcasteja, saalistajakustantajia sekä tiedeviestintää ja kansalaistiedettä maissa, joissa on käytössä satoja eri kieliä, esimerkiksi Nigeriassa 529. Vaikka tiede on maailmanlaajuista, on politiikka (yleensä) paikallista, todettiin.

ihmisryhmät, posterit, halli, ikkunat, katto, pöydät. groups of people, posters, hall, windows, ceiling, tables.
Posterisessio | Poster session

Posterit

Konferenssissa oli esillä myös kymmenen posteria, jotka nekin esiteltiin ”poster lightning talks” -sessiossa. Mielenkiintoisin posteri on Syddansk Universitetin kirjaston kuuden henkilön laatima “Coloring the Donut”, jossa he tutkivat, miten hyvin niin sanottua altmetriikkadonitsia (“Altmetric Donut”, katso esimerkiksi kirjaston tutkimuksen tuen sivut) voi manipuloida. Heidän tapaustutkimuksensa mukaan se ei ole helppoa ja lähinnä twiiteillä sekä Wikipedian avulla sitä voi yrittää. Tyylikkäin, mutta myös todella informatiivinen ja runsas, posteri oli Twenten yliopiston Luuk van Ewijkin “Supporting researchers in their usage of Altmetrics Explorer”. Se rakentuu, kuten tutkimuksen tuki, muutenkin, hallinnon, kirjaston, tutkijoiden, viestinnän sekä rahoittajien ja julkaisijoiden tukipilareille, ja siihen tarvitaan avoimen tieteen arvioinnin kehittämistä ja panostusta siihen, asialle omistautuneita avainkäyttäjiä ja konkreettisia päämääriä, integroitumista prosesseihin, tiedonhankintaa ja -välitystä, seurantaa ja jatkuvaa keskustelua.

Osallistujat

Konferenssi oli melko pieni, osallistujia oli alle sata. Olin kansainvälisen konferenssin ainoa suomalainen ja yksi neljästä pohjoismaalaisesta. Suurin osa osallistujista oli ymmärrettävästi Britanniasta. Alankomaalaisia, kanadalaisia ja yhdysvaltalaisia oli myös paljon. Kirjasto- ja tietopalveluammattilaisten lisäksi mukana oli professoreita ja muita tutkijoita, johtajia, toimittajia, analyytikkoja, muotoilijoita, koordinaattoreita, suunnittelijoita ja myös opiskelijoita. Suurin osa tuli yliopistoista, mutta merkittävä osa kustantamoista sekä järjestäjäorganisaatioista (Altmetric, PlumX, Kudos) ja muista sponsoriorganisaatioista (CWTS, Hindawi, Minso Solutions, Springer Nature, Wiley). Koolla oli siis pieni mutta sekalainen joukko altmetriikasta eri näkökulmista kiinnostuneita ihmisiä. Kahvitaukoja oli usein ja niiden, samoin kuin lounaiden, aikana ennätti jutella ja tutustua. Olin ensimmäistä kertaa konferenssissa, jonka osallistujista tunsin ennestään vain yhden, Valeria Scottin (Fondazione IRCCS Policlinico San Matteo of Pavia, Italia), jolla oli konferenssissa posteri “Measure of Scientific Impact: How Altmetrics Can Innovate the Approach in a Multidimensional Model?”

Tuleeko 7:AM?

Loppuyhteenvedossaan Mike Taylor (Digital Science) puhui siltojen rakentamisesta muun muassa tiedeyhteisön ja yhteiskunnan välille, eri maanosien välille, akateemisen maailman eri osa-alueiden välille. Hänen mukaansa nyt on noussut pintaan “curation generation” ja pohti mikä tulee olemaan seuraava. Joka tapauksessa tiedeyhteisön on hänen mielestään sitouduttava tieteestä viestimiseen. Viimeiseen kysymykseen, tarvitaanko 7:AM, saatiin yleisöltä positiivinen vastaus. Moni alusta saakka (järjestelyissä) mukana ollut lienee pohtinut pienempää osallistujamäärä verrattuna vaikkapa viime vuoteen, mutta sijainnilla on vaikutuksensa – Stirling ei ole Lontoo (2014, 2018), Amsterdam (2015), Toronto (2017) eikä edes Bukarest (2016).

Linkit

konnferenssi, ihmiset, hymy, vilkuttaa. conference, people, smile, wave
Jutun kirjoittaja kuvassa keskellä | Blog post writer in the middle of the photo. Kuva | Photo: Mike Taylor

Altmetrics

The term ‘altmetrics’ is derived from the words ‘alternative’ and ‘metrics’. Being complementary to bibliometrics in a way, altmetrics are also related to the measurement of the visibility of science and scientific publications. Altmetrics specifically measure online publications. For example, they can measure the visibility of a particular study through the number of clicks, downloads, blog posts, bookmarks, likes and tweets related to it. However, instead of being indicators of impact, they are a part of the filtering of scientific information. In reality, they do not even constitute alternative metrics but an appendage that is necessary in this modern era of online publishing and new accessibility to data.

6:AM

During the second week of October, I participated in the sixth Altmetrics Conference, which was held at the University of Stirling in Scotland this year. The 6:AM Altmetrics Conference was a two-day event that took place on 9 and 10 October. I only participated in the conference, but it was preceded by a one-day do-a-thon and followed by a workshop day. The conference itself also featured unconference elements. Instead of sitting in rows, we sat around tables that each seated eight people, which makes it easier to talk and get to know people than other types of seating arrangements.

On the first day, I found myself seated next to Euan Adie (Overton.io). He is one of the founders of Altmetric, and I had been reading his article ‘The Rise of Altmetrics’ (in Altmetrics: A practical guide for librarians, researchers and academics) on my way to Scotland. Adie has stated that because there is always too much information available, it is important to filter it from the perspective of quality, weeding out irrelevant and poor-quality content. In altmetrics, this aim can be pursued with the help of digital erudition, the tools of which include shared reference management tools, sharing online, crowdsourcing, metadata created together by the users and post-publication peer review, for example. Openness is part of his altmetrics guidelines: when the indicator is used, the user must have access to the data behind it and the data must be as open as possible and relevant.

Landscape

Adie also gave one of the most interesting presentations, ‘Mapping the Policy Landscape’, where he stated that the concept of ‘policy document’ – which may appear in the form of a book, but also as a blog post, research publication, working paper, report, etc. – is difficult to define, being changing, unacademic, practical and political in nature but always written for the purpose of changing policy or practice. It can be international, national, regional or even neighbourhood-specific. One third of the publications of this type refer to other similar documents, while another third refer to scientific research, one sixth refer to the media and the rest refer to legislation and other similar things. The reference can be direct, such as a reference to a clinical guideline, but it can also form a chain extending from a newspaper via a blog to a working paper, for example. In other words, it is not possible to measure single citations, as the references form a network can comprise roughly 10,000 different citations. Thus, the altmetric indicators can be very complex in comparison with traditional bibliometric indicators.

Welcome

We were welcomed to Scotland with bagpipe music and to the University of Stirling campus by Executive Director of Research and Innovation Services John Rogers, after which the conference was opened by Catherine Williams (Altmetric) and the first keynote speech, ‘Beyond Bibliometrics’, was given by Martin Kirk (King’s College London, UK). His task is to ensure that the university is equipped with the best equipment and that the university’s research activities have as high visibility as possible. He presented many things to consider regarding which metric serves which purpose, and who is in charge of altmetrics in organisations. Are they taken into account in strategic work, is the research administration in charge of them, are they part of researchers’ work, do libraries or communications units use them? In any case, altmetrics are strategic tools used in publishing. Open access publications receive more citations and other attention than publications behind paywalls – if a publication is not openly accessible, the publisher’s visibility and reputation suffer.

Highlights

Two conference days included two keynote presentations, one ‘Highlight Talk’, two panel discussions and 26 other presentations.

In my opinion, the most interesting presentation of the Altmetrics in Action session was ‘Beyond the “Cool” Factor: The Challenge of Making Alternative Metrics Indispensable’ by Rebecca Welzenbach (University of Michigan Library, USA). She talked about the ways in which her workplace utilises Altmetric Explorer tools and how both communications and the research administration are interested in the visibility and impact determined with the help of altmetrics. Welzenbach is a research impact librarian, a position that every university would benefit from having. Robyn Price (Imperial College London, UK), who gave a presentation titled ‘Collaborating to Target Doctoral Students and Postdoctoral Staff’ during the same session, emphasised the significance of quality and awareness in her rousing speech about the teaching of altmetric tools to PhD students as part of a course called ‘Digital academic skills’ and their utilisation in the applications of postdocs.

In a session called The Researcher View, Mithu Lucraft (Springer Nature) spoke on many topics, including what researchers are interested in and what they care about, such as whether they are interested in the impact of research outside the academic world and what role openness plays in this. Because citations are easy to monitor, they are often considered important in many fields, which is also why support is needed for the use and understanding of other monitoring tools. During the same session, Rachel Miles (Virginia Tech, USA) spoke about research evaluation and its effect on researchers’ salaries, emphasising that the evaluation methods should be open.

The participants only once divided into parallels sessions. I participated in a workshop titled ‘Rumor Has It: How Exploring Research Engagement through Metrics Transforms Student Learning’. Rachel Miles and Amanda MacDonald (Virginia Tech, USA) discussed and gave a practical demonstration of how they teach altmetrics to undergraduate students.

In a session called Decoding the Data, Ben McLeish (Altmetric) held a presentation titled ‘Measuring knowledge mobilization for grant-funded research using bibliometric, patent and policy indicators’. He emphasised that while services similar to Altmetric and Dimensions can be used to measure ideas and concepts with regard to this data, they cannot be used to measure impact. He also spoke about the profitability of research, which can be compared by examining the number of funded publications per researcher in different countries, for example. Maria Levchenko (Europe PMC/EMBL-EBI), with whom I conversed during more than one coffee break, spoke about the topic ‘Exploring the Landscape of Curated Publications in Biology’. A biocurator is a professional scientist who curates, collects, annotates, and validates information that is disseminated by biological and model organism databases. The role encompasses quality control of primary biological research data intended for publication, extracting and organizing data from original scientific literature, and describing the data with standard annotation protocols and vocabularies that enable powerful queries and biological database inter-operability. She spoke about the value of biocuration and posed questions such as what makes a paper curatable, does curation correlate with quality, and does curation lead to a higher citation rate? Matthew Bickley (University of Wolverhampton, UK) asked ‘Can the Impact of Grey Literature be Assessed?’ and introduced how to measure the impact of grey literature, i.e. unpublished literature. Andy Miah’s speech addressed the topics of citizen science, how science is communicated via various channels and with different methods (images, videos, performances, virtual reality, festivals, etc.) and how the impact of this type of outreach is measured. He emphasised that scientists must be citizens first and researchers second.

The other presentations at the conference addressed themes such as the perspectives of funders, the extremely long time span of the impact of certain research fields, the lifecycle of research, new types of indicators under development, science podcasts, predatory publishers, and scientific communication and citizen science in countries in which hundreds of languages are spoken, such as Nigeria with its 529 languages. It was noted that although science is global, politics is (often) local.

ilta, taivas, järvi, rakennus, kuu, valot, pilvet, puut. evening, sky, lake, clouds, building, lights, moon, trees
Stirlingin yliopiston kampus kuunvalossa | University of Stirling campus in moonlight

Posters

The conference also displayed ten posters that were introduced as ‘poster lightning talks. For me, the most interesting poster was ‘Coloring in the Donut’, prepared by six staff members of Syddansk Universitet. In the poster, its creators studied how well the Altmetric donut (see, for example, the library’s research support page) can be manipulated. According to their case study, it is not easy, and it can primarily be attempted with tweets and Wikipedia. In my opinion, the most stylish poster, which was also very informative and rich in content, was ‘Supporting researchers in their usage of Altmetric Explorer’ by Luuk van Ewijk from the University of Twente. Just as research support in general, this is built on the pillars of management, library & IT, researchers, marketing & communications, funders and publishers, and it requires development of and investment in open science and research evaluation, key users dedicated to the matter, concrete targets, integration into processes, information provision and promotion, and ongoing conversation between key users.

Participants

The conference was relatively small, with less than a hundred participants. I was the only Finnish participant and one of the four Nordic participants in this international conference. Understandably, most of the participants were British. There was also a large number of participants from the Netherlands, Canada and the USA. In addition to librarians and other information professionals, the participants included many professors and other researchers, leaders, journalists, analysts, designers, coordinators and students. Most of them came from universities, but a considerable number also represented publishers, the organisations that organised the conference (Altmetric, PlumX, Kudos) and other sponsor organisations (CWTS, Hindawi, Minso Solutions, Springer Nature, Wiley). In other words, the conference was attended by a small but mixed group of people interested in altmetrics from different perspectives. Coffee breaks were held often, and they, together with lunch times, provided time for conversation and for people to get to know each other. This was my first time I attended a conference in which I only knew one other participant in advance and that was Valeria Scotti (Fondazione IRCCS Policlinico San Matteo of Pavia, Italy), who presented a poster called ‘Measure of Scientific Impact: How Altmetrics Can Innovate the Approach in a Multidimensional Model?’.

Will there be a 7:AM?

In his closing remarks, Mike Taylor (Digital Science) spoke about building bridges between the research community and society, between different continents and between different parts of the academic world. According to him, this is the era of the “Curation Generation”, and he wondered what the next one would be. In any case, he thinks that the science community must commit to communicating about science. The final question of whether a 7:AM is needed received a positive response from the audience. Many of those who were involved (in the arrangements) from the beginning perhaps pondered the smaller number of participants compared with last year, for example, but the location matters – Stirling is not London (2014, 2018), Amsterdam (2015), Toronto (2017) or Bucharest (2016).

Links

 

Tuulevi Ovaska
erityistietoasiantuntija | communications coordinator & information specialist
Opetus- ja tietopalvelut | Training & information services

Jaa tämä / Share this
Share

Millä meitä mitataan? | How are we measured?

(Please, scroll down to read in English.)

Yliopistomaailmassa törmää erilaisiin tutkimus- ja julkaisutoimintaa arvioiviin mittareihin, kuten impact factoriin, h-indeksiin, jufo-tasoihin sekä julkaisu- ja  viittausmääriin. Lue lisää tutkimuksen arvioinnista julkaisujen avulla. Mittareiden avulla saatavaa tietoa hyödynnetään esimerkiksi apurahahakemusten teossa, tehtävää tai tointa hakiessa, rekrytointia tehdessä ja tutkimustulosten julkaisukanavaa miettiessä. Mittareita tutkaillaan yhteistyökumppaneita etsiessä ja puhtaasti omasta mielenkiinnosta.

Mittareiden hakemiseen ja osittain myös laskemiseen on kehitetty erilaisia, suhteellisen yksinkertaisiakin, työkaluja ja palveluja, joten erilaisten tunnuslukujen saaminen ei sinällään välttämättä vaadi mitään erityistaitoja. Tutkimuksen ja julkaisutoiminnan arviointi on haastavaa, joten selkeän numeerisen luvun antavien mittareiden käyttäminen on houkuttelevaa. Tunnistammeko mittareiden käyttöön liittyvät rajoitukset ja osaammeko tulkita ja käyttää niitä vastuullisesti oikein?

Useimmat mittarit perustuvat siteerauksiin

Mittareista on hyötyä erityisesti sellaisilla tieteenaloilla, joilla tutkimustulokset julkaistaan artikkeleina kansainvälisissä vertaisarvioiduissa tieteellisissä lehdissä englannin kielellä. Tällaisia aloja ovat eksaktit tieteet (luonnontieteet) ja niihin perustuvat alat, kuten esimerkiksi biokemia, farmasia ja lääketiede. Toisin sanoen kyse on tieteenaloista, joiden julkaisut löytyvät metriikkaan erikoistuneista Scopus– ja Web of Science -tietokannoista.

Useimmat mittarit perustuvat siteerauksiin. Eksakteissa tieteissä viittauksiin perustuvien mittarien voidaan sanoa kuvaavan tutkimuksen vaikuttavuutta. Esimerkiksi h-indeksi suhteuttaa tutkijan julkaisumäärän ja siteerausmäärän toisiinsa. Mitä korkeampi h-indeksin arvo on, sitä enemmän tutkijalla on siteerattuja kärkijulkaisuja. Siteeraaminen on yksi osoitus siitä, että tutkimus tulee huomatuksi ja että sillä on merkitystä.

Mittarit ovat saman tieteenalan sisällä puolueettomia ja niiden laskentaperusteet läpinäkyviä. Numerot ovat faktaa eivätkä mielipiteitä. Esimerkiksi erilaisten akateemisten tehtävien täytöissä tällä on merkitystä. Valitsijat voivat saada mittarien avulla jokseenkin vertailukelpoisen kuvan hakijoiden tieteellisistä ansioista kansainvälisellä tasolla. Mittareiden aikasarjaa tutkimalla voidaan selvittää myös tutkijan urakehitystä: onko ura nousevassa vaiheessa,  jo vakiintunut, vaiko mahdollisesti laskusuunnassa.

mittareiden soveltuvuus vaihtelee tieteenaloittain

Humanistisia ja yhteiskuntatieteitä pidetään yleensä perinteisen metriikan välineillä tehtävään mittaukseen huonosti soveltuvina: näiden alojen lehdistä vain osa on Web of Sciencessa ja Scopuksessa, joiden ulkopuolelle jäävät myös monilla tieteenaloilla julkaisukanavina tärkeät monografiat. Tilanne ei toisaalta ole näin yksiselitteinen: artikkelijulkaisemisen yleistyessä perinteisillä kirja-aloilla mittaaminen käy eri tavalla mahdolliseksi, ja esimerkiksi Google Scholar ottaa huomioon myös kirjat ja niiden saamat viitteet. Lisäksi jotkin tieteenalat myös humanististen ja yhteiskuntatieteiden sisällä istuvat paremmin perinteisen metriikan välinein mitattaviksi. Vaikkapa psykologian ja neurolingvistiikan julkaisut ovat aivan eri tavalla mitattavissa kuin historia ja oikeustieteet. Tällöin korostuu jo aiemmin esiin tullut ohjenuora: eri tieteenaloja ei voi verrata keskenään.

altmetriikka

Tutkimusjulkaisujen näkyvyyden arvioinnissa käytetään myös vaihtoehtoiseksi metriikaksi ja artikkelitason metriikaksi nimitettyä altmetriikkaa, jonka ideana on selvittää, mitä tieteessä tapahtuu juuri nyt perinteisen metriikan analysoidessa jo tapahtunutta. Altmetriikan avulla voidaan seurata, miten paljon tiettyä julkaisua verkossa ladataan, jaetaan ja kommentoidaan.

Altmetriikkapalveluita on sekä maksuttomia, esim. Altmetric (osittain) ja Kudos, että maksullisia, esim. SciVal (käytössä UEFissa, myös perinteistä metriikkaa) ja PlumX. Monissa palveluissa, muun muassa UEF eRepossa, on käytössä Altmetric-palvelun huomiopisteiden (attention score) kuvake, niin sanottu donitsi. Klikkaamalla sitä on helppo nähdä, missä julkaisua on jaettu ja keskustellaanko siitä vaikkapa Twitterissä.

Altmetriikkaan kytkeytyy läheisesti tutkijoiden näkyvyys sosiaalisessa mediassa, esim. Twitter, ja verkkoyhteisöissä, esim. Academia.edu, LinkedIn, Mendeley ja ResearchGate. Lue lisää altmetriikasta ja tutkimuksen näkyvyydestä

miten tutkimuksen avoimuutta mitataan?

Tutkimustiedon avoin saatavuus ja tutkimuksen läpinäkyvyys ovat tieteellisen prosessin kulmakiviä. Jo tällä hetkellä useat rahoittajat, kuten Euroopan komission Horisontti 2020 -ohjelma ja Suomen Akatemia, edellyttävät avointa julkaisemista ja kannustavat tutkimusdatan avaamiseen, kun avaamiselle ei ole juridisia, eettisiä tai sopimusoikeudellisia esteitä. Tieteen avoimuuden tukeminen on keskeinen tavoite niin kotimaisissa kuin kansainvälisissäkin tiedelinjauksissa, mutta työ avoimuuden mittareiden kehittämiseksi on vielä kesken. Tieteen vaikuttavuutta mittaavat metriikat perustuvat edelleen pitkälti vertaisarvioituihin kansainvälisiin julkaisuihin eivätkä tunnista avoimia menetelmiä. Avoimuuden kulttuurin muutosta tulee edistää kannusteilla ja tutkijoita palkita avoimuudesta. Tavoitteena on, että avoimuuden indikaattoreita hyödynnettäisiin aidosti mm. virantäytöissä ja tutkimusrahoituksen jakamisessa.

mittareiden vastuullinen käyttö

Miten tutkimus- ja julkaisutoimintaa kuvaavia mittareita sitten tulisi käyttää? Ensinnäkin, arvioinnin lähtökohtien tulee olla mahdollisimman tarkat. Tietokannasta haettuja viitetietoja verrataan tutkijan julkaisuluetteloon. Tietokannat eivät välttämättä sisällä kaikkia tietyn tutkijan, tutkimusryhmän tai tieteenalan julkaisuja. Yliopistossamme filosofisen tiedekunnan raportointivuoden 2017 vertaisarvioiduista julkaisuista vain vajaa 45 % löytyi Scopuksesta tai Web of Sciencestä. Yhteiskuntatieteiden ja kauppatieteiden tiedekunnassa vastaava kattavuus oli 65 %. Terveystieteiden tiedekunnassa päästiin 90 %:iin ja luonnontieteiden ja metsätieteiden tiedekunnassa 94 %:iin.

Koska mittareiden antama tieto on lähinnä määrällistä, tulee niitä käyttää asiantuntija-arvioinnin rinnalla.  Vastuullista käyttöä on myös se, että tarkastellaan useita mittareita samanaikaisesti. Tärkeää on muistaa, että mittareiden antamat numerotiedot ovat vertailukelpoisia vain saman tieteenalan sisällä, jos sielläkään. Lisäksi tulosten tulkintaan pitää liittää tutkijan uravaihe.  Arvioinnin kohteilla tulisi olla mahdollisuus testata ja todentaa tulokset, jolloin toimintaa voidaan pitää läpinäkyvänä molemmille osapuolille.

Vastuulliseen käyttöön kuuluu myös tieteen sisäinen vuoropuhelu siitä, mihin mittareita käytetään, mittaavatko ne oikeita asioita ja onko indikaattoreissa päivittämistarpeita.

Tutkimus- ja julkaisutoiminnan mittaaminen on ajankohtainen aihe, sillä myös valtakunnallisesti on aloitettu keskustelu siitä, olisiko Suomessa tarvetta yhteisille metriikan käytön pelisäännöille. Kansallisia linjauksia mittareiden käytöstä on odotettavissa lähitulevaisuudessa. Tieteellisten seurain valtuuskunta on perustanut työryhmän valmistamaan tutkijan vastuullista arviointia koskevan suosituksen. Lisäksi samaa aihepiiriä on käsitelty  Tutkimushallinnon verkostossa julkaisumetriikan työryhmässä, jonka aloitusseminaarissa käytiin läpi DORA-julistusta, Leidenin tutkimusmetriikkamanifestia ja Julkaisufoorumin vastuullista hyödyntämistä. Juuri nyt keskeistä on lisätä eri toimijoiden, kuten tutkijoiden, opettajien, rahoittajien ja tutkimushallinnon, tietoisuutta mittareiden rajoituksista ja eduista. Ihmiset tekevät vastuullisen metriikan.

Lue lisää:
Metric Tide
Metrics Toolkit

Kuva | Photo: Pixabay (CC0)

in English

Universities use different indicators, like impact factor, h-index or number of publications, to measure research output. Read more about evaluating research via publications. The information produced using these indicators is used, for example, in research grant applications, in applying for an office and in recruiting. They are also explored when looking for research partners and purely out of interest. There are different tools and services that are mostly easy to use. It is tempting to use clear numerical indicators as the assessment of research and publications is demanding. Do we recognise the limitations of these indicators? Do we know how to use them responsibly?

most indicators are based on citations

Bibliometrics is useful especially in exact sciences (natural sciences) and related disciplines, such as biochemistry, pharmacy and medicine. Publishing in these disciplines is standardised to peer-reviewed journal articles in English language. All or most of the articles may be found in Scopus and Web of Science databases. Thus, the quantitative analysis of publishing is possible. Bibliometrics is based on citations. Citation practices in science are well established. Considering all this, bibliometrics can be said to offer justified means to analyse research impact in science. Bibliometrics is objective and transparent within a discipline. Numbers represent facts. There is a need for this kind of information, e.g. in fulfilling academic positions. The applicants’ academic merits can be comparatively evaluated on an international level by using metrics. Time series of metrics are useful in finding out whether a career ladder is ascending, established or descending.

disciplines cannot be compared using bibliometrics

Usually, humanities and social sciences are not considered suitable for traditional bibliometrics. Only part of the journals in these fields are indexed for Scopus or Web of Science and monographies are not indexed at all. However, the situation is not that unequivocal as publishing articles is becoming more common also in these disciplines and as Google Scholar, for instance, counts also book refererences. In addition, some areas, such as psychology and neurolinguistics, within these fields are more fit to be measured using bibliometrics. It is just important to remember not to use metrics to compare different disciplines.

altmetrics

Altmetrics is alternative or article level metrics. The idea is to find out what happens in science right now, while traditional bibliometrics looks at what has happened. There are free tools, like Altmetric (partly free) and Kudos, and chargeable tools, like SciVal (in use at UEF, also traditional metrics) and PlumX. In many services, like in UEF eRepo, you can see the so-called attention score donut of Altmetric. By clicking it, you can find out where a publication has been shared and if it is discussed, for example, in Twitter. Researchers’ visibility in Twitter and in other social media and networking tools and services, like Adademia.edu, LinkedIn, Mendeley and ResearchGate, is closely connected to altmetrics.

how to measure openness?

The open access and the transparency of research are the keystones of the scientific process. Already several funders, such as the Horizon 2020 – EU Research and Innovation programme and the Academy of Finland, require open publishing and encourage the sharing of research data when there are no legal, ethical or contractual barriers. Supporting open science is the main goal both nationally and internationally, but the work to develop the indicators of openness is still ongoing. Impact indicators are still largely based on peer-reviewed international publications and do not recognise open methods. The change in the culture of openness should be promoted by incentives and researchers should be rewarded for openness. The goal is to genuinely utilise the indicators of openness, e.g. when employing staff and sharing research funding.

responsible metrics

How should the indicators be used? Firstly, the bases have to be exact. References from databases are compared with researcher’s publication list. Databases do not necessarily cover all publications by a researcher, a research group or a discipline. At UEF, 45% of the peer-reviewed publications of the Philosophical Faculty could be retrieved from Scopus or Web of Science, while the figure was 65% for the Faculty of Social Sciences and Business Studies, 90% for the Faculty of Health Sciences, and 94% for the Faculty of Science and Forestry.

Indicators provide mostly quantitative information and that must be used together with expert evaluation. It is also responsible to use several indicators, not only one. And to always take into account that the figures are comparable only within a discipline, at most. In the interpretation of  the results, the career phase of the researcher must always be taken into account. Evaluation should also be transparent. Scientists themselves are also responsible to discuss the use of these indicators.

National discussion about the need for common rules of using indicators and metrics has started. The Federation of Finnish Learned Societies (TSV) has established a working group to create guidelines of responsible researcher evaluation. The same topic has been processed in the publishing metrics working group of the Network for Research Services and Administration (TUHA). The DORA Declaration, the Leiden Manifesto and the responsible use of  the Publication Forum have been studied with care. Right now, it is important to increase the knowledge about the limitations and benefits of indicators among all parties. People make responsible metrics.

Further reading:
Metric Tide
Metrics Toolkit

Kaisa Hartikainen, Jussi Hyvärinen, Heikki Laitinen, Virpi Lindi, Mari Niemi, Tuulevi Ovaska, Maarit Putous & Tomi Rosti, tietoasiantuntijoita | information specialists
Opetus- ja tietopalvelut | Training and information services
Verkko- ja julkaisupalvelut | Library IT and publishing services
Jarmo Saarti, kirjastonjohtaja | library director

Käännöksen oikoluku | English language checking: Suvi Tolvanen

Jaa tämä / Share this
Share

NWB 2017 : Pohjoismaisen bibliometriikkaworkshopin parhaat palat | Highlights of the Nordic Workshop on Bibliometrics and Research Policy

(Please, scroll down to read in English.)

Osallistuimme 22:nteen pohjoismaiseen bibliometriikka- ja tutkimuspolitiikkaworkshopiin Tieteiden talossa Helsingissä. Kokosimme tähän ohjelman kohokohdat juuri meille.

Tomin ajatuksia tutkijanäkyvyydestä

Ensimmäinen päivä käynnistyi Kim Holmbergin puheenvuorolla tutkijoiden näkyvyyden mittaamisesta. Puheenvuorossa lähdettiin liikenteeseen tieteellisen viestinnän määritelmästä, jossa huomioitiin sekä muodollinen että epämuodollinen viestintä ja haasteet näiden mittaamiselle. Tieteellisessä viestinnässä yksiköiden määrä on kasvanut runsaasti viime vuosien aikana. Toisaalta tämä mahdollistaa paremmin metriikkojen hyödyntämisen, mutta toisaalta se tuo mukanaan epävarmuuden muun muassa manipuloinnin muodossa. Holmberg korostikin puheenvuorossaan, että altmetriikkaa ei pidä käyttää tutkimuksen arviointiin. Käytännössä altmetriikkaa kannattaisi ehkä hyödyntää vaikuttavuuden mittauksessa, jos käytettävät tiedot ovat riittävän luotettavia. Holmberg viittasikin tähän hyvin, että eri alustoilla tuotettujen altmetriikkojen merkitys ja sovellettavuus ovat edelleen määrittelemättä tai ne ovat muutoin epäselviä. Altmetriikan keinoin voidaan kuvailla vaikuttavuutta eri näkökannoista ja ottaa tarkasteluun erilaisia dimensioita. Tämä antaakin altmetriikan käytölle lisähaasteita, kuinka niitä tulisi lopulta tulkita ja millaisia sovelluksia tai ohjelmia tarvitaan optimaaliseen hyödyntämiseen

Toinen mielenkiinnon kohde päivälle oli Terry Bucknellin puheenvuoro. Aluksi asiaa lähdettiin pohtimaan tekijään liittyvien haasteiden kautta: pohjimmaisena ideana on, että tulisi nähdyksi ja kuulluksi. Tutkija onkin usein ristipaineessa: rahoittaja tahtoo yhtä, työnantaja toista ja lisäksi ovat vielä tutkijan omat intressit. Tutkijalla on mahdollisuuksia kasvattaa näkyvyyttään erilaisin keinoin, hyödyntämällä sosiaalista mediaa, blogeja, Wikipediaa, tviittauksia, uutispostauksia, YouTube-kanavia tai vaikka verkossa toimivia tutkijayhteisöjä. Alla oleva kuva kuvastaa eri tietovirtojen kehittymistä tutkimuksen julkaisemisesta lähtien.

Lähde: http://symplectic.co.uk/guest-blog/research-data-mechanics/

Tutkijalla voisi altmetriikan kautta saada vastauksia kysymyksiin: Kuka on kiinnostunut tutkimuksestani? Miten voisin todistaa tutkimukseni vaikuttavuutta? Miten löytäisin mahdollisia yhteistyökumppaneita? Onko käyttämäni viestintäsuunnitelma tehokas? Mikä on ”kuuma” aihe tutkimusalallani? Missä tulisi julkaista näkyvyytesi maksimoimiseksi? Mitä sosiaalisen median tilejä ja blogeja minun tulisi seurata? Tärkeätä on kuitenkin huomata, että eri välineillä voidaan yhdistellä tietoja ja voidaan laskeskella keskimääräisiä arvoja yksittäisille julkaisuille, mutta luonnollisesti tämähän ei ole tae näkyvyydestä muutoin kuin tilastollisesti, eli edelleen tutkimusaihe ja sisältö vaikuttavat näkyvyyden määrään.

Virpin workshop-ajatuksia

Kun Helsingin yliopiston professori emeritus Ilkka Niiniluoto avasi torstaina 9.11.2017 varsinaisen workshopin, kaksi keskeistä ohjetta osallistujille oli, kysykää ja esittäkää kommentteja esittäjille ja olkaa ystävällisiä kaikille! Näillä ohjeilla workshop sujuikin hyvässä hengessä alusta lähtien.

Torstaipäivältä, ja miksei koko workshopin ajalta, itselleni yksi keskeinen anti oli kuulla esityksiä bibliometriikan käytöstä ja siihen liittyvistä haasteista yhteiskuntatieteellisessä ja humanistisessa tutkimuksessa, joka on minulle hyvin vieras tutkimusalue, koska oma taustani on niin vahvasti terveys- ja lääketieteellisessä tutkimuksessa. Erittäin mielenkiintoinen oli myös Fredrik Piron esitys uusimmasta NORIA-net–raportista, jossa vertaillaan pohjoismaisia yliopistoja ja yliopistosairaaloita bibliometriikan avulla. NORIA-net:n yksi keskeinen periaate on tutkimuslaitosten tutkimusaktiivisuuden ja tutkimuksen vaikuttavuuden vertailu, mutta ei tutkimuslaitosten paremmuusjärjestykseen laittaminen. Lisäksi verkosto pyrkii kehittämään uusia vertailuindikaattoreita.  Erityisesti jäi mietityttämään tulos, jonka mukaan suomalaisten tutkimuslaitosten aktiivisuus kliinisessä lääketieteessä ja terveystieteissä on muita pohjoismaita alhaisempi, kun taas esimerkiksi biologiassa, materiaalitieteissä, matematiikassa, tilastotieteissä ja fysiikassa olemme muita pohjoismaita aktiivisempia.

Työhöni tutkimuksen tuen tiimissä sain eniten työvälineitä ja ideoita perjantai päivän posterisessiossa, josta tässä nostan esille erityisesti kaksi posteria. Toinen posteri käsitteli Data-asiain kansalliskomitean Avoin tiede ja tutkimus –hankkeessa (ATT) tuottamia suosituksia tutkimusdataan viittaamisen käytäntöjen kehittämisestä Suomessa. Posteri kuvasi dataviittaustiekartan ensimmäisen luonnoksen, ja sitä oli esittelemässä Data-asiain kansalliskomitean sihteeri Heidi Laine. Juttelin Heidin kanssa ja hän kertoi, että tämän vuoden lopussa valmistuu hankkeen loppuraportti, ja ensi vuoden alusta Heidi jatkaa osittain saman asian tiimoilta uudessa toimenpideohjelmassa. Toista posteria oli esittelemässä Aalto yliopiston johtamisen tukipalveluista tietoasiantuntija Leena Huiku. Hän kertoi minulle, kuinka he tuottavat bibliometrisiä palveluja yliopistolle Tenure Track –hakujen tueksi, jotta Aalto yliopistoon saadaan rekrytoitua kansainvälisiä huippututkijoita. Tämä palvelumalli on ollut nykyisessä muodossaan toiminnassa ymmärtääkseni vuodesta 2015 lähtien, ja kaksi tenure track -paikkaa on tähän mennessä täytetty käyttäen hyväksi tätä palvelua.

Tomi ja Virpi kuuntelemassa Ilkka Niiniluodon avauspuheenvuoroa. Kuva: Tuulevi Ovaska
Tuulevin pohdiskeluja näkyvyydestä ja vaikuttavuudesta

Nostan perjantailta esille kaksi mieleenjääneintä esitystä, joiden aihepiirit liittyvät tutkimuksen ja tutkijoiden näkyvyyteen ja siihen, onko sillä jotakin tekemistä vaikuttavuuden kanssa.

Arto Lanamäen (Oulun yliopisto) otsikkona oli “Is Any Social Media Publicity Good Publicity? The Case of @RealPeerReview and Altmetrics”. Kysymys on hyvä ja monisyinen. Kyseisen Twitter-tilin tavoitteena on kritisoida ja suorastaan mollata tiettyjen tieteenalojen tutkimusjulkaisuja sarkastisesti ja parodioiden. Sen twiittejä jaetaan ahkerasti, luultavasti myös automatisoiduin keinoin, joten linkitettyjen julkaisujen Altmetric-donitsin lukemat voivat nousta suuriksikin.  Myös monet muut altmetriikka-työkalut laskevat twiittejä. Tutkimus saa siis näkyvyyttä sosiaalisessa mediassa eivätkä numerot kerro, onko se positiivista vai negatiivista. Toki Altmetric-donitsia voi klikata nähdäkseen yksityiskohtaisempia tietoja siitä, mikä on vaikuttanut huomioarvoon, sillä nimenomaan huomiosta on kyse. Lanamäen mukaan tutkimuksen vaikuttavuuden mittaamisen takana on vähintään implisiittinen oletus siitä, että kaikki julkisuus on hyvää julkisuutta: Bibliometriikka kohtelee kaikkia viittauksia samanarvoisina, vaikka kaikkia viittauksia ei ole tehty myönteisessä mielessä, ja vastaavasti altmetriikka-indikaattorit eivät kerro vaikuttavuudesta vaan huomiosta tai suosiosta. Jäin pohtimaan, toteutuvatko @RealPeerReview:n tavoitteet tehdä esimerkiksi sukupuolen- tai kulttuuripolitiikantutkimus naurettaviksi nimenomaan lisäämällä niiden huomioarvoa, vai osaavatko alojen tutkijat hyödyntää saamansa julkisuuden, vaikka se tätä kautta näyttäytyykin kielteisenä. Sosiaalisen median maailmassa ei koskaan tiedä.

Hieman toinen tulokulma sosiaaliseen mediaan oli Bergenin yliopiston Susanne Mikkillä and Marta Zygmuntowskalla aiheesta “Citation and social media impact with regard to open publishing” sillä he tutkivat julkaisujen avoimuuden vaikutusta sekä näkyyvyyten sosiaalisessa mediassa että viittausmääriin. He halusivat selvittää muun muassa, miten suuri osa norjalaisista tutkimusartikkeleista on avoimia ja vaikuttaako maininta sosiaalisessa mediassa viittausmääriin? Käyttäen CERES:stä (Nasjonalt senter for felles systemer og tjenester for forskning og studier/National Center for Systems and Services for Research and Studies) saatuja DOI-tunnisteita he tekivät hakuja Google Scholarista ja Altmetric.comista, ja saivat selville, että 70 % kaikista norjalaisista artikkeleista oli avoimia ja että avoin julkaiseminen oli selkeästi etu. Avoimet artikkelit saivat lähes 30 % enemmän mainintoja sosiaalisessa mediassa ja kaksi kertaa enemmän viittauksia kuin maksulliset artikkelit. Heidän johtopäätöksensä on, että avoin julkaiseminen ja verkostoituminen ovat tieteellisen viestinnän tulevaisuus. Myös maailmanlaajuisesti on todettu, että avoin julkaiseminen lisää viittausmääriä merkittävästi. Kiinnostuin tietysti siitä, kuinka suuri osa suomalaisista tieteellisistä julkaisuista on avoimia, mutta samalla tavalla kuin Norjassa sitä ei liene vielä selvitetty. ATT:n mukaan Suomessa vuosien 2008-2011 aikana ilmestyneistä tieteellisistä julkaisuista arvioidaan tällä hetkellä olevan avoimesti saatavilla noin 48 %. Komission asettama Europan Unionin laajuinen tavoite on 60 % julkaisuista avoimena vuoteen 2020 mennessä. Norjassa ovat avoimuusasiat siis aika hyvällä mallilla EU-maihin verrattuna.
Lopuksi: Kannattiko osallistua? Miksi? Menisitkö uudelleen?
  • Tomi: Ehdottomasti. Monipuolisia puheenvuoroja metriikan nykytilasta. Tottahan toki, mikäli mahdollista.
  • Tuulevi: Ilman muuta kannatti. Näkökulmat biblio- ja muuhun metriikkaan olivat niin monitahoiset, että monenlaisille osallistujille riitti kiinnostavaa kuultavaa. Tottakai, miksei vaikka ensi vuonna Ruotsin Boråsiin.
  • Virpi: Yllätyin positiivisesti siitä, että myös ensikertalainen sai paljon irti workshopista. Lähtisin mielelläni myös uudelleen.
Lisätietoja:

Workshopin esitykset tulevat jakoon FigSharessa

Workshopin osallistujat | Participants of the workshop. Lähde | Source: http://blogs.helsinki.fi/nwb-2017/

We participated in the 22nd Nordic Workshop on Bibliometrics and Research Policy at the House of Science and Lettes in Helsinki. This is a brief summary of our report of the highlights.

Pre-workshop on research visibility

The first day started with Kim Holmberg’s speech on ”Measuring researchers’ online visibility”. He started the presentation with the definition of scientific communication. The definition was wide and acknowledged both the formal and informal communication in the scientific area. Holmberg mentioned some challenges in measuring them. In scientific communication, the number of units has increased significantly over the past few years. On the one hand, this makes it easier to use metrics but on the other hand, you have to remember the possibility of manipulated data. In his speech, Holmberg emphasized that altmetrics shouldn’t be used to evaluate a research. In practice, it would be worthwhile to use altmetrics in measuring the effectiveness if the data used were sufficiently reliable. Holmberg also pointed out that the significance and applicability of the altmetrics produced on different platforms are still unspecified or otherwise unclear. Altmetrics can be used to describe the impact from different perspectives and to consider different dimensions. This brings further challenges to altmetrics: how to interpret the results and what kind of applications or tools are needed.

Another point of interest for the day was the speech by Terry Bucknell. The presentation begun with a reflection on the factors related to the authorship: the basic idea is to be seen and heard. The researcher is often between a rock and a hard place; the funder wants one thing, the employer wants another, and, in addition, there are also the researcher’s own interests. The researcher has the possibility to increase his/her visibility by various means, using social media, blogs, Wikipedia, tweets, news posts, YouTube or even online researcher communities. The picture below shows the typical timeline of attention.

Source: http://symplectic.co.uk/guest-blog/research-data-mechanics/

With the help of altmetrics, the researcher could find answers to the following questions: Who is interested in my research? How can I prove the effectiveness of my research? How can I find potential partners? Is the communication plan I used effective? What is the ”hot topic” in my research field? Where should I publish in order to maximize my visibility? What social media accounts and blogs should I follow? However, it is important to note that with different tools you can combine data and calculate average values for individual publications, but of course, there is no guarantee of visibility, except for statistical purposes. The research topic and content still determine the visibility.

Virpi’s thoughts on the workshop

In his opening words,  professor emeritus of University of Helsinki Ilkka Niiniluoto advised us to ask questions and comment after every presentation and be friendly to everybody! With these words, the workshop went in high spirits from beginning to end.

For me, one of the most essential parts of the workshop was to hear presentations on use of bibliometric indicators in social sciences and humanities which are very unfamiliar disciplines for me as my background is more in health sciences and medicine.  A very interesting presentation was also Fredrik Piro’s  speech on the latest Noria-net report. The purpose of the Noria Network is to compare research activity and research impact of Nordic universities and higher education sectors by bibliometric indicators. In addition, the network develops new indicators. It is noteworthy, however, that the aim is not to rank the higher education institutions. I was a little bit surprised at the finding that the research activity of Finnish higher education sectors is lower in clinical medicine and health sciences and higher in biology, material science, mathematics, statistics and physics compared with other Nordic countries.

I also want to highlight two posters that I found very informative from my standpoint in the research support team in the UEF library. The poster presented by Heidi Laine described the first draft for a data citation roadmap for Finland that has been produced by the Finnish Committee for Research Data executed in the Open Science and Research Initiative. I talked with Heidi, who is a coordinator of the project, and she told me that closing report of the initiative will be ready by the end of this year. At the beginning of the next year, Heidi will continue in another project that will partly concern the same issues.  Another poster was presented by Leena Huiku from the Management Information Service at the Aalto University. She told me that since 2015 they have offered bibliometric services to support Tenure Track recruiting processes at Aalto University.  The purpose is to get  international top researchers to apply open Tenure Track positions at Aalto University and by now two posts have already been filled using this service.

Tomi and Virpi listening to Ilkka Niiniluoto’s opening words. Photo: Tuulevi Ovaska
Tuulevi’s contemplations on publicity, visibility and impact

I concentrate here on two presentations from Friday, focusing on research and researcher visibility, and whether it has something to do with impact.

The title of Arto Lanamäki‘s (University of Oulu) presentation was “Is Any Social Media Publicity Good Publicity? The Case of @RealPeerReview and Altmetrics”. The question is good and complex. The purpose of this Twitter account is to criticize and even mock publications in certain disciplines using sarcasm and parody. The tweets are widely distributed, probably also by automation, so the Altmetric donut scores of the linked papers easily rise. Many other altmetrics tools also count tweets. So, these papers get visibility in social media but the numbers do not tell whether it is positive or negative. Of course, the Altmetric badge can be clicked to see more detailed information about what kind of attention has been counted. According to Lanamäki, behind the measurement of research impact there is at least an implicit assumption that all publicity is good publicity: Bibliometrics treat all references equally even though all references are not positive, and altmetrics indicators do not indicate impact, but attention or popularity. I wonder if @RealPeerReview’s aims to ridicule for example gender studies or cultural politics are met when they get more attention, or if the researchers in these fields can turn the visibility to their advantage, even though it is presented as negative. In the world of social networks, you never know.

Slightly another angle to social media was presented by Susanna Mikki University and Marta Zygmuntowska (University of Bergen) in the presentation called “The Citation and Social Media Impact with Open Publishing”. They studied the impact of open publications, their visibility in social media and their citation volumes. They aimed to find out among other things, the open-share of all Norwegian articles, and if there is a citation advantage to articles mentioned on social media. Based on the scholarly output in Norway, using DOIs from CERES, the Current Information System in Norway, and searching Google Scholar and Altmetric.com, they found out that 70% of all Norwegian articles were open and that there was a clear advantage for open publishing. Open articles received almost 30% more mentions on social media and twice as many citations than articles behind the paywall. They concluded that open publishing and social engagement are the future of scholarly communication. It has also been internationally shown that open publishing increases the number of references significantly. Of course, I got interested in the percentage of open publications in Finland, but it has not been investigated in the same way as in Norway. According to ATT, approximately 48% of the scientific publications published in Finland during the 2008-2011 period are estimated to be currently open. The objective of ATT is for Finland to become one of the leading countries in the openness of science and research by the year 2017 and to ensure that the possibilities of open science will be widely utilised in our society. The target of the European Commission is 60% of open publications by the year 2020. In Norway, therefore, they are already more open than in the EU countries.

Finally: Was is worthwhile? Why? Would you attend again?
  • Tomi: Absolutely. There were good speeches on current topics on metrics. Of course, if possible.
  • Tuulevi: Absolutely. There were many different viewpoints to bibliometrics and other metrics for participants with different interests. Of course, why not next year in Borås, Sweden.
  • Virpi:  I was positively surprised that also a newcomer made a great deal out of the workshop.  I would gladly participate again.
More information:

Workshop proceedings will be available at FigShare

Virpi Lindi, tietoasiantuntija | information specialist
Tuulevi Ovaska, erityistietoasiantuntija | information specialist & communications coordinator
Tomi Rosti, tietoasiantuntija | information specialist
Opetus- ja tietopalvelut | Training and information services

Jaa tämä / Share this
Share

Bibliometriikkaseminaarin tuliaisia: Miten mitata tutkimuksen vaikuttavuutta ja tutkijan näkyvyyttä?

Pääsimme joulukuun puolessa välissä osallistumaan opetus- ja kulttuuriministeriön, Suomen yliopistokirjastojen neuvoston (SYN), Helsingin yliopiston kirjaston ja Tieteen tietotekniikan keskuksen (CSC) järjestämään bibliometriikkaseminaariin Helsinkiin. Tässä joitakin seminaarissa esille nousseita näkökulmia ja ajatuksia pohdittavaksi ja makusteltavaksi.

Altmetriikka mittaa näkyvyyttä sosiaalisessa mediassa

Bibliometriikasta (lyhyesti määriteltynä: tieteellisten lehtien/julkaisujen/tutkijan vaikuttavuuden kvantitatiivinen analysointi; esim. viittausmäärät, h-indeksi, impact factor) puhuttaessa yhä useammin käsitellään myös altmetriikkaa, jolla mitataan tutkimuksen saamaa huomiota sosiaalisessa mediassa. Altmetriikkasovellukset (esim. Altmetric.com, ImpactStory) ovat alkaneet haastaa perinteiset bibliometriset analyysit. Sosiaalisessa mediassa artikkeleille ja muulle tutkimustyölle pyritään saamaan näkyvyyttä laajemmin ja nopeammin. Tyypillisesti vanhemmille julkaisuille kertyy enemmän viittauksia, mutta sosiaalisessa mediassa tilanne on päinvastoin: etupäässä uudet julkaisut kiinnostavat ja saavat näkyvyyttä.

Sosiaalinen media on yksi väylä lisätä tieteen näkyvyyttä, mutta todellisuudessa altmetriikan keinoin määritettävän näkyvyyden tieteellisestä tai yhteiskunnallisesta vaikuttavuudesta ei suoranaisesti ole tietoa. Mikä merkitys latauksilla, jaoilla, tviittauksilla tai tykkäyksillä on? Ovatko eniten huomiota saaneet julkaisut aidosti merkittävimpien kärkikaartia?  Altmetric määrittää vuosittain top 100 -listan eniten keskustelua herättäneistä artikkeleista. Sinänsä listalla on paljon kiinnostavia julkaisuja. Vuoden 2016 listan 12. sijalla käsitellään Robin Williamsia ja sijalta 43 löytyy 5 000 vuotta vanha olutresepti. Ovatko nämä yhteiskunnallisesti erityisen merkittäviä? Mielenkiintoinen havainto on myös se, että mitä enemmän tutkija on keskittynyt tviittaamiseen, sitä vähemmän hän on julkaissut tieteellisissä lehdissä. Mistä tämä kertoo? Altmetriikkasovelluksista voi tarkistaa saamansa huomion historiaa, eli ketkä artikkelista ovat kiinnostuneita ja missä artikkeli on nostettu esiin. Tämä on se keskeinen tarina lukujen takana.

Miten lisätä tutkijan ja tutkimuksen näkyvyyttä?

Vaikka altmetriikkaa on osin syystäkin kritisoitu, tutkimuksen näkyvyyden lisääminen on silti tärkeää. Miten tähän saisi tehtyä korjausliikkeen? Tässä joitakin vinkkejä tutkijalle: 1) Mieti, kenet haluat tavoittaa? Mikä on kohdeyleisösi? Selvitä, missä kanavissa muut alasi tutkijat vaikuttavat. 2) Kirjoita tutkimuksestasi lyhyt, yleistajuinen tiivistelmä jaettavaksi. Saman voi tehdä vaikkapa videona. 3) Julkaise tutkimuksesi avoimesti joko julkaisemalla Open Access -lehdessä tai rinnakkaistallentamalla artikkeli avoimeen julkaisuarkistoon. 4) Avaa artikkelin lisäksi tutkimuksen dataa, postereita tai muuta tausta-aineistoa mahdollisuuksien mukaan. Netissä on lukuisia arkistoja ja palveluja tuotosten jakamiseen (esim. Zenodo, OpenDOAR). 5) Hyödynnä sosiaalista mediaa ja mainosta työtäsi somen eri kanavissa aktiivisesti. Saat ainakin keskustelua aikaan. 6) Voisitko alkaa kirjoittaa blogia tai ottaisitko yhteyttä oman tieteenalasi bloggaajaan, jolle suosittelisit blogipostausta tutkimuksestasi? 7) Hanki ORCID-tutkijatunniste, joka kokoaa tutkimusansiosi yhteen ja yksilöi sinut muista tutkijoista. 8) Varmista, että töilläsi on pysyvä tunniste (DOI, ArXiv ID, PubMed ID) ja käytä tunnistetta aina artikkelin yhteydessä. Näin työsi löydetään. 9) Kysy neuvoa ja vinkkejä näkyvyytesi boostaamiseen UEF:n kirjastosta tai viestinnästä.

Scival apuna tutkimuksen vaikuttavuuden analysoinnissa

Yksi tutkimuksen vaikuttavuuden analysointiin tarkoitetuista välineistä on meilläkin käytössä oleva SciVal. Olethan jo testannut? SciValia voi käyttää esim. tutkimusorganisaatioiden tai tutkijoiden vertailuun, tutkimusyhteistyökumppaneiden etsimiseen tai nousevien tutkimusalueiden tunnistamiseen. Ohjelma on vinkeä työkalu, mutta sokeasti siihenkään ei kannata luottaa. SciVal lukee Scopus-tietokantaa, joten Scopuksesta puuttuvat artikkelit jäävät uupumaan myös SciValista, mikä voi vääristää analyysin tuloksia. SciValia markkinoidaan usein analyysityövälineeksi esim. rahoitushakemuksiin, mutta tällöin voi kysyä, onko tutkijan itse tekemä analyysi puolueeton.

Lopuksi lohdutuksen sana rahoitushakemusten kanssa kamppaileville. Muun muassa Suomen Akatemia on ennen kaikkea kiinnostunut toimivasta tutkimusideasta ja -suunnitelmasta. Tämän lisäksi tutkijan ansioiksi luetaan CV ja julkaisuluettelo, bibliometriset tunnusluvut viittausmäärineen ja h-indekseineen eivät ole ratkaisevassa asemassa. Biblio- ja altmetriikka tarjoavat lisätyökaluja kokonaiskuvan arviointiin, mutta laadullista tutkimuksen vaikuttavuuden analyysiä ne eivät korvaa.

Bibliometriikkaseminaarin materiaalit (Helsinki, 16.12.2016)

Tietoasiantuntijat Kaisa Hartikainen ja Jussi Hyvärinen / UEF:n kirjasto

Jaa tämä / Share this
Share

Lisää näkyvyyttä tutkijoille ja tutkimukselle / More research and researcher visibility

Altmetriikkatyökaluja ja -palveluita tutkijoille ja organisaatioille / Altmetrics tools and services for researchers and institutions

(To read in English, please, scroll down.)

Altmetriikan avulla pyritään löytämään julkaisujen digitaalisia jälkiä muualta verkosta kuin tiedeyhteisön perinteisistä viittauksista ja niihin liittyvästä metriikasta. Halutaan tietää, missä ja kuka jakaa ja kommentoi julkaisuja sekä jäljittää tutkimuksen yhteiskunnallista vaikuttavuutta. Välineinä käytetään julkaisujen käyttö-/latausmääriä, näkyvyyttä sosiaalisessa mediassa sekä jakamisia, suosituksia ja tallennuksia eri palveluissa.  Tutkijoiden omia keinoja parantaa julkaisujensa löytyvyyttä ja näkyvyyttä ovat esimerkiksi ORCID-tutkijatunnisteen käyttö ja avoin julkaiseminen. Tässä esitellään muutama altmetriikkaväline.

Altmetric

  • Kuka puhuu/kirjoittaa tutkimuksestasi verkossa? Sitä on Lontoossa majaansa pitävä Altmetric seurannut vuodesta 2012 hyödyntäen kolmea asiaa eli tuotosta (artikkeli, kirja, esitys, raportti jne.), tunnistetta (esim. arXiv ID, DOI, PubMedID, URN) ja mainintaa jossakin seuratuista lähteistä..
  • Altmetric-donitsi näyttää, missä palveluissa tutkimus on saanut huomiota ja miten paljon. Dataa kerätään monenlaisista dokumenteista ja palveluista kuten mediasta, blogeista ja yhteisöpalveluista.
  • Altmetric-donitsiin voi törmätä kustantajien artikkelisivuilla, organisaatioiden julkaisutietokannoissa ja myös yksittäisten tutkijoiden sivuilla. Donitsia voi klikata nähdäkseen yksityiskohtaisempia tietoja maininnoista ja viittauksista, jotka ovat vaikuttaneet huomioarvoon.
  • Maksullisia Altmetric-tuotteita ovat Explorer for Publishers, Explorer for Institutions, Explorer for Funders, Altmetric Badges ja Altmetric API.
  • Maksutta voi käyttää
    • Altmetric Bookmarkletia: 1) Lisää sovelluskirjamerkki (bookmarklet) selaimesi työkaluriville. 2) Khttps://erepo.uef.fi/atso julkaisua verkossa.  3) Klikkaa nähdäksesi artikkelitason metriikka.
    • Julkaisuarkistomerkkejä. Tähän julkaisuarkiston ylläpitäjä tarvitsee vain lyhyen pätkän koodia. Käytössä myös UEF eRepositoryssa.
    • Yksittäisen tutkijan omia merkkejä, joita tutkija voi lisätä omalle verkkosivulleen tai CV:een.
    • Myös API for Researchia voi käyttää vapaasti tietyillä tasoilla

ImpactStory

  • ImpactStory on avoimen lähdekoodin altmetriikkatyökalu, jolla tutkija voi mitata ja jakaa julkaisujensa, blogikirjoitustensa, tiedostojensa ja ohjelmistojensa vaikutuksia. Tarjotun metriikan avulla tutkija voi nähdä, kuinka monta kertaa heidän työnsä on ladattu tai jaettu, ja rahoittaja voi selvittää panostuksensa vaikutuksia muillakin keinoilla kuin perinteisellä bibliometriikalla. ImpactStory on voittoa tuottamaton säätiörahoitteinen organisaatio.
  • ImpactStorylla on kytkös ORCID-tutkijatunnisteeseen ja se näyttää julkaisuille mm. Mendeley-tallennukset ja twiitit, kertoo niiden OA-tilanteen, kertoo miten monessa maassa niitä on luettu ja jaettu, kertoo mikä niistä on suosituin yms. Palvelun näkyvyyskategoriat ovat pörinä (buzz), sitoutuminen (engagement), avoimuus (openness) ja huvi (fun).
  • Rekisteröityminen on ilmaista ja melko yksinkertaista, mutta ORCID-tunnus ja Twitter-tili kannattaa olla jo valmiina. (Sen jälkeen voi twiitata vaikka näin: Check out the online impact of my research on @Impactstory: https://twitter.com/TuuleviUEFlib/status/786548391404646400. )

Kudos

  • Kudos on verkkopohjainen palvelu, jolla voi pyrkiä maksimoimaan julkaistujen artikkeleiden näkyvyyttä ja vaikuttavuutta. Kudos-palvelussa voi muokata ja lisätä informaatiota julkaisuihin, jotta ne löytyisivät paremmin, että niitä voisi jakaa helpommin ja että näiden toimien vaikutusten mittaaminen ja seuraaminen olisi mahdollista.
  • Palvelu on tarkoitettu tutkijoille, jotka haluavat lisätä julkaisujensa käyttö- ja viittauslukuja sekä instituutioille ja rahoittajille, jotka haluavat lisätä rahoittamansa tutkimuksen vaikutusta sekä kustantajille, jotka haluavat kehittää tiiviimpää yhteistyötä tutkijoiden kanssa ja lisätä julkaisujen saavutettavuutta. Kudos ei toimi itsestään tai automaattisesti, vaan vaatii tutkijalta tai muulta toimijalta käsityötä erilaisen metatiedon lisäämiseksi julkaisujen tietoihin.

PlumX

  • PlumX on altmetriikkavälineistö, jota UEF:lla ei ainakaan toistaiseksi ole käytössä. Sen sijaan UEF:lla käytössä tutkimuksen arvioinnin tietokanta SciVal, jossa vaikuttavuutta mitataan perinteisen metriikan eli viittausten avulla lähteenään SCOPUS-tietokannan tiedot. PlumX tarjoaa ajantasaista metriikkaa tutkimuksen vaikuttavuuden arviointiin.
  • Mittareina käytetään perinteisiä menetelmiä, kuten artikkeleiden latauksia ja viittausmääriä, mutta myös uudempia mittareita, kuten julkaisujen lisäämisiä suosikeiksi tai kirjanmerkeiksi sekä blogeissa tai muualla sosiaalisessa mediassa saatuja viittauksia. PlumX:n eri työkalujen avulla on mahdollista seurata organisaation julkaisujen saamaa näkyvyyttä ja yhteiskunnallista vaikuttavuutta. Tätä voidaan tehdä yliopisto-, tiedekunta- ja tutkijatasolla.
  • Suomalaisista yliopistoista PlumX on käytössä ainakin Helsingin yliopistossa ja Tampereen teknillisessä yliopistossa.
  • Kansainvälisesti on huomattu, että esimerkiksi lääke- ja terveystieteet menestyvät altmetriikassa paremmin kuin vaikkapa humanistiset tieteet. Tämän vuoksi eri tieteenalojen vertailu keskenään ei ole suositeltavaa. Menetelmät perustuvat aina käytettävissä olevaan dataan, joka viedään PlumX:ään valituista tietolähteistä (kansainväliset viitetietokannat, julkaisurekisterit). Ohjelmaa hyödyntävät myös tutkimuksen rahoittajat.

Altmetrics aims to find the digital traces of publications from elsewhere at the Internet than the traditional references and bibliometrics. There is a need to know where and by whom the publications are shared and commented, as well as trace the impact of the research. For example, the tools calculate  visibility in different social media, downloads and views, bookmarkingat, sharings and endorsements in different services. Researchers can boost the accessibility and visibility of their publications e.g. by creating a researcher ID (ORCID) and by open access publishing. Four tools are introduced here.

Altmetric

  • Thousands of conversations about scholarly content happen online every day. Altmetric tracks a range of sources to capture and collate this activity, helping you to monitor and report on the attention surrounding the work you care about.
  • The Altmetric donut visualizes in which services your research has been noted and noticed and how much. Data is collected from different documents and services from policy documents to Pinterest and from news services to Twitter.
  • Explorer for Publishers, Explorer for Institutions, Explorer for Funders, Altmetric Badges, and Altmetric API are chargeable products but there also free tools.
  • The Altmetric bookmarklet enables you to instantly see Altmetric data for any published research output with a DOI. It’s quick, free and easy to install in just 3 simple steps.
  • Institutional Repository badges are free embeddable badges for repositories within academic institutions. They can be installed with just a few lines of code, and you can choose the style of badge you’d like to display. Used in UEF eRepository.

ImpactStory

  • ImpactStory is an open source altmetrics tool that researchers can use to measure and share the impact of their publications, blog posts, datasets, and software. The metrics can be used by researchers to see how many times their work has been downloaded or shared, and by funders to know more than only the information from the traditional journal citation metrics about the impact of the research the fund. ImpactStory is a nonprofit organization funded by two foundations.
  • ImpactStory connects to  ORCID and it shows for example Mendeley saves and Tweets of your publications, reveals the open access status of them and in which countries they have been read and shared, and which one is the most popular. The categories of visibility are buzz, engagement, openness and fun.
  • The registration process is free and pretty straightforward but it is advisable to have your ORCID ID and Twitter handle at hand. (After that, you can tweet like this: Check out the online impact of my research on @Impactstory: https://twitter.com/TuuleviUEFlib/status/786548391404646400.)

Kudos

  • Kudos asks researchers to open up their research so new audiences can find and understand it. With Kudos it is possible to track the most effective networks for getting your work read, discussed and cited. It is a tool for improving the metrics by which you are evaluated. Kudos is a web-based service that helps researchers and their institutions and funders to maximize the visibility and impact of their published articles. Kudos provides a platform for assembling and creating information to help search filtering, for sharing information to drive discovery, and for measuring and monitoring the effect of these activities.
  • Kudos is for researchers who want assistance with increasing usage of and citations to their publications. Kudos is also for institutions and funders looking to increase the impact of the research that they fund, and for publishers wanting to develop closer relationships with their author communities and increase publication performance.

PlumX

  • PlumX is an altmetric tool, which for the time being is not in use at UEF. Instead, UEF has a comparable database, SciVal, available. PlumX offers up-to-date metrics to measure the visibility and social impact of publications at the university, faculty or researcher level.
  • These indicators include more traditional methods, such as counts of downloads and citations, but also novel methods, such as the number of publication likes and shares as well as bookmarking and favouring artifacts e.g. in blog posts and other social media, are used.
  • In Finland, at least Helsinki University and Tampere University of Technology are using PlumX.
  • Internationally, it has been noticed that e.g. medicine and health sciences perform better in altmetrics than social sciences. Therefore, different fields of research should not be compared. Methods of PlumX are always based on available data imported to PlumX from the selected sources (international databases, publication registers). PlumX is utilized also by different funders.

 

tietoasiantuntijat / information specialists
Kaisa Hartikainen & Tuulevi Ovaska
Kuopion kampuskirjasto & KYSin tieteellinen kirjasto

Jaa tämä / Share this
Share