Bäst–sämsta skalning

Bästa-värsta skalningstekniker ( BWS ) involverar valmodellering (eller diskret valexperiment – ​​"DCE") och uppfanns av Jordan Louviere 1987 när han var på fakulteten vid University of Alberta . I allmänhet med BWS visas undersökningsrespondenterna en delmängd av objekt från en huvudlista och uppmanas att ange de bästa och sämsta punkterna (eller de flesta och minst viktiga, eller mest och minst tilltalande, etc.). Uppgiften upprepas ett antal gånger och varierar den specifika delmängden av objekt på ett systematiskt sätt, vanligtvis enligt en statistisk design . Analyser utförs vanligtvis, som med DCE:er mer generellt, under antagandet att respondenterna gör val enligt en slumpmässig nyttomodell (RUM). RUMs antar att en uppskattning av hur mycket en respondent föredrar punkt A framför punkt B tillhandahålls av hur ofta punkt A väljs framför punkt B vid upprepade val. Således uppskattar valfrekvenser verktygen på den relevanta latenta skalan. BWS syftar huvudsakligen till att tillhandahålla mer valinformation i den nedre delen av denna skala utan att behöva ställa ytterligare frågor som är specifika för objekt med lägre ranking.

Historia

Louviere tillskriver idén till Anthony AJ Marleys tidiga arbete i sin doktorsavhandling, som tillsammans med Duncan Luce på 1960-talet producerade mycket av den banbrytande forskningen inom matematisk psykologi och psykofysik för att axiomatisera nytteteori. Marley hade stött på problem med att axiomisera vissa typer av rankningsdata och spekulerade i diskussionen om sin avhandling att granskning av de "sämre" och "överlägsna" objekten i en lista kan vara ett fruktbart ämne för framtida forskning. Idén försvann sedan i tre decennier tills de första arbetsdokumenten och publikationerna dök upp i början av 1990-talet. Den definitiva läroboken som beskriver teorin, metoderna och tillämpningarna publicerades i september 2015 ( Cambridge University Press ) av Jordan Louviere ( University of South Australia ), Terry N Flynn (TF Choices Ltd.) och Anthony A. J Marley ( University of Victoria och University of South Australia). Boken samlar den olika forskningen från olika akademiska och praktiska discipliner, i hopp om att replikering och misstag vid implementering undviks. De tre författarna har (enskilt och tillsammans) redan publicerat många av de viktiga akademiska refereegranskade artiklarna som beskriver BWS teori, praktik och ett antal tillämpningar inom hälsa, socialvård, marknadsföring, transport, röstning och miljöekonomi. Metoden har dock nu blivit populär i de bredare forskar- och praktikergemenskaperna, med andra forskare som utforskar dess användning inom så olika områden som studentutvärdering av undervisning, marknadsföring av vin, kvantifiering av oro över ADHD -medicin, vikten av miljömässig hållbarhet och prioritering vid genetisk testning .

Syften

Det finns två olika syften med BWS – som en metod för datainsamling och/eller som en teori om hur människor gör val när de konfronteras med tre eller fler saker. Denna distinktion är avgörande, med tanke på det fortsatta missbruket av termen maxdiff för att beskriva metoden. Som Marley och Louviere noterar är maxdiff en sedan länge etablerad akademisk matematisk teori med mycket specifika antaganden om hur människor gör val: den förutsätter att respondenterna utvärderar alla möjliga par av objekt inom den visade uppsättningen och väljer det par som speglar den maximala skillnaden i preferenser. eller betydelse.

Som en processteori (teori om beslutsfattande)

Betrakta en uppsättning där en respondent utvärderar fyra poster: A, B, C och D. Om respondenten säger att A är bäst och D är sämst, informerar dessa två svar oss om fem av sex möjliga implicita parade jämförelser:

A > B, A > C, A > D, B > D, C > D

Den enda parade jämförelsen som inte går att sluta sig till är B vs. C. I ett val mellan fem punkter informerar MaxDiff-förhör om sju av tio underförstådda parade jämförelser. Därför kan BWS ses som en variant av metoden för parade jämförelser .

Ändå kan respondenterna producera bästa-sämsta data på något av ett antal sätt. Istället för att utvärdera alla möjliga par ( maxdiff- modellen), kan de välja det bästa från n objekt, det sämsta från de återstående n-1, eller vice versa. Eller de kan faktiskt använda en helt annan metod. Det borde alltså vara tydligt att maxdiff är en delmängd av BWS . Maxdiff-modellen har visat sig vara användbar för att bevisa egenskaperna hos ett antal estimatorer i BWS. Men dess realism som en beskrivning av hur människor faktiskt kan tillhandahålla bästa och sämsta data kan ifrågasättas av följande anledning. När antalet objekt ökar, ökar antalet möjliga par på ett multiplikativt sätt: n objekt producerar n(n-1) par (där bästa-sämsta ordningen spelar roll). Att anta att respondenterna utvärderar alla möjliga par är ett starkt antagande och under 14 års presentationer har de tre medförfattarna praktiskt taget aldrig hittat en kurs- eller konferensdeltagare som erkänt att de använt denna metod för att bestämma sina bästa och sämsta val. Praktiskt taget alla erkände att de använder sekventiella modeller (bäst sedan sämst eller sämst sedan bäst).

Tidiga arbeten (inklusive Louvieres själv) använde termen maxdiff för att referera till BWS, men med rekryteringen av Marley till teamet som utvecklade metoden har korrekt akademisk terminologi spridits över hela Europa och Asien-Stillahavsområdet (om inte Nordamerika, som fortsätter att använda termen maxdiff). Det är faktiskt en öppen fråga om stora mjukvarutillverkare av maxdiff-rutiner för diskreta val faktiskt implementerar maxdiff- modeller för att uppskatta parametrar, trots denna fortsatta reklam för maxdiff-funktioner.

Som en metod för datainsamling

Den andra användningen av BWS är som en metod för datainsamling (snarare än som en teori om hur människor producerar ett bästa och ett sämsta föremål). BWS kan, särskilt i en tid av webbaserade undersökningar, användas för att samla in data på ett systematiskt sätt som (1) tvingar alla respondenter att tillhandahålla bästa och sämsta data på samma sätt (genom att till exempel fråga bäst först, gråna ut det valda alternativet och fråga sedan sämst); (2) Möjliggör insamling av en fullständig ranking, om upprepade BWS-förhör implementeras för att samla in den "inre rankingen". I många sammanhang har BWS för datainsamling endast betraktats som ett sätt att erhålla sådan data för att underlätta dataexpansion (för att uppskatta villkorade logitmodeller med mycket fler valuppsättningar) eller för att uppskatta konventionella rangordnade logitmodeller.

Typer ("case")

Bytet av metoden, för att klargöra att maxdiff-skalning är BWS men BWS inte nödvändigtvis är maxdiff, beslutades av Louviere i samråd med hans två nyckelmedarbetare (Flynn och Marley) som förberedelse för boken, och presenterades i en artikel av Flynn. Den tidningen tog också tillfället i akt att klargöra att det faktiskt finns tre typer ("fall") av BWS: fall 1 ("objektmålet"), fall 2 ("profilfallet") och fall 3 (det "flerprofilfodral"). Dessa tre fall skiljer sig till stor del i komplexiteten hos de alternativ som erbjuds.

Fall 1 ("objektfallet")

Fall 1 presenterar objekt som kan vara attitydpåståenden, policymål, marknadsföringsslogans eller någon typ av objekt som inte har någon attribut- och nivåstruktur. Det används främst för att undvika skalförändringar som är kända för att påverka värderingsskala ( Likert ) skaldata. Det är särskilt användbart när man framkallar graden av betydelse eller överensstämmelse som respondenterna tillskriver från en uppsättning påståenden och när forskaren vill säkerställa att objekten konkurrerar med varandra (så att respondenterna inte enkelt kan bedöma flera objekt som varande av samma betydelse) .

Fall 2 ("profilfallet")

Fall 2 har dominerat i hälsa och objekten är attributnivåerna som beskriver en enda profil av den typ som är bekant för valmodeller. Istället för att göra val mellan profiler måste respondenten göra bästa och sämsta (flest och minst) val inom en profil. Sålunda, för exemplet med en mobiltelefon (mobil) skulle valen vara de mest acceptabla och minst acceptabla egenskaperna hos en given telefon. Fall 2 har visat sig vara kraftfullt för att framkalla preferenser bland utsatta grupper, såsom äldre, äldre vårdare och barn, som tycker att konventionella multiprofilexperiment med diskreta val är svåra. Faktum är att den första jämförelsen av fall 2 med en DCE i en enda modell visade att även om den stora majoriteten av (äldre) svarande lämnade användbar data från BWS-uppgiften, gör bara ungefär hälften det för DCE.

Fall 3 ("multi-profil case")

Fall 3 är kanske det mest bekanta för valmodeller, eftersom det bara är en förlängning av en diskret valmodell: antalet profiler måste vara tre eller fler, och istället för att helt enkelt välja den som respondenten skulle köpa, väljer han den bästa och sämsta profilen.

Design för studier

Fall 1 BWS-studier använder vanligtvis balanserade ofullständiga blockdesigner (BIBD). Dessa gör att varje föremål visas lika många gånger och tvingar också varje föremål att konkurrera med varannan lika många gånger. Dessa egenskaper är attraktiva eftersom respondenten hindras från att dra slutsatser om felaktig information om föremålen (vilka föremål designern är "verkligen" intresserad av). De säkerställer också att det inte kan finnas några "band" i vikt/framträdande högst upp eller längst ner på skalan.

Fall 2 BWS-studier kan använda ortogonala huvudeffektsplaner (OMEPs) eller effektiva konstruktioner, även om de förra har dominerat hittills.

Fall 3 BWS-studier kan använda vilken som helst av de typer av design som vanligtvis används för en DCE, med förbehållet att antalet profiler (alternativ) i en valuppsättning måste vara tre eller fler för att BWS-uppgiften ska vara meningsfull.

Senaste historien

Steve Cohen introducerade BWS till marknadsforskningsvärlden i en artikel som presenterades vid en ESOMAR- konferens i Barcelona 2002 med titeln "Renewing market segmentation: Some new tools to correcting old problems." Den här uppsatsen nominerades till bästa papper vid den konferensen. År 2003 vid ESOMAR Latin America Conference i Punta del Este, Uruguay, jämförde Steve och hans medförfattare, Dr. Leopldo Neira, BWS-resultat med de som erhölls med metoder för betygsskala. Den här artikeln vann Best Methodological Paper vid den konferensen. Senare samma år utsågs den till vinnare av John and Mary Goodyear Award för bästa uppsats vid alla ESOMAR-konferenser 2003 och sedan publicerades den som huvudartikeln i "Excellence in International Research 2004", publicerad av ESOMAR. Vid 2003 års Sawtooth Software Conference valdes Steve Cohens uppsats, "Maximum Difference Scaling: Improved Measures of Importance and Preference for Segmentation," som bästa presentation. Cohen och Sawtooth Softwares president Bryan Orme kom överens om att MaxDiff skulle vara en del av Sawtooth-paketet och det introducerades senare samma år. Senare under 2004 vann Cohen och Orme David K. Hardin Award från AMA för sin artikel som publicerades i Marketing Research Magazine med titeln "Vad föredrar du? Att fråga respondenterna om deras preferenser skapar nya skalningsbeslut."

Parallellt med detta introducerade Emma McIntosh och Jordan Louviere BWS (fall 2) för hälsogemenskapen vid 2002 års Health Economists' Study Group-konferens. Detta föranledde samarbetet med Flynn och i slutändan kopplingen till Marley, som hade börjat arbeta med Louviere självständigt för att bevisa egenskaperna hos BWS-uppskattare. Populariteten för de tre fallen har till stor del varierat beroende på akademisk disciplin, där fall 1 har visat sig populärt inom marknadsföring och livsmedelsforskning, fall 2 till stor del har använts inom hälsa och fall 3 används inom en mängd olika discipliner som redan använder DCE. Det var delvis denna brist på förståelse inom många discipliner att det faktiskt finns tre fall av BWS som fick de tre huvudutvecklarna att skriva läroboken.

Boken innehåller ett inledande kapitel som sammanfattar historien om BWS och de tre fallen, tillsammans med varför respondenten måste fundera på om (er) han vill använda det för att förstå teorier (processer) för beslutsfattande och/eller bara för att samla in data i ett systematiskt sätt. Tre kapitel, ett för varje fall, följer, som beskriver intuitionen och tillämpningen av varje. Därefter följer ett kapitel som sammanför Marleys arbete som bevisar egenskaperna hos nyckelberäkningarna och lägger upp några öppna frågor. Efter att ha lagt upp öppna frågor för vidare analys, följer sedan nio kapitel (tre per fall – som beskriver applikationer från en mängd olika discipliner). [ citat behövs ]

Att genomföra en studie

De grundläggande stegen för att genomföra alla typer av BWS-studier är:

  • Genomför korrekt kvalitativ eller annan forskning för att korrekt identifiera och beskriva alla föremål av intresse.
  • Konstruera en statistisk design som anger vilka föremål som ska presenteras i varje uppsättning av föremål ("valuppsättning") – design kan komma från allmänt tillgängliga kataloger, vara tillverkade för hand eller producerade från kommersiellt tillgänglig programvara.
  • Använd designen för att konstruera valuppsättningarna, som innehåller de faktiska relevanta föremålen (textuellt eller visuellt).
  • Skaffa svarsdata där respondenterna väljer det bästa och sämsta från varje uppgift; upprepa bäst-sämst (för att få näst bäst, näst sämst, etc.) kan utföras om analytikern önskar mer data.
  • Mata in data i ett statistiskt program och analysera. Programvaran kommer att producera verktygsfunktioner för var och en av funktionerna. Förutom nyttopoäng kan du också begära råvärden som helt enkelt summerar det totala antalet gånger en produkt valdes som bäst och sämst. Dessa nyttofunktioner indikerar produktens upplevda värde på individuell nivå och hur känsliga konsumenternas uppfattningar och preferenser är för förändringar i produktegenskaper. [ citat behövs ]

Analys

Uppskattning av verktygsfunktionen utförs med någon av en mängd olika metoder.

  1. multinomial diskret valanalys, i synnerhet multinomial logit (strängt taget den villkorliga logit , även om de två termerna nu används omväxlande). Multinomial logit (MNL)-modellen är ofta det första steget i analysen och ger ett mått på genomsnittlig användbarhet för attributnivåerna eller objekten (beroende på fallet). [ citat behövs ]
  2. I många fall, särskilt fall 1 och 2, borde enkla observationer och plottning av valfrekvenser faktiskt vara det första steget, eftersom det är mycket användbart för att identifiera preferensheterogenitet och respondenter som använder beslutsregler baserade på ett enda attribut.
  3. Flera algoritmer kan användas i denna uppskattningsprocess, inklusive maximal sannolikhet , neurala nätverk och den hierarkiska Bayes-modellen . Den hierarkiska Bayes-modellen är fördelaktig eftersom den tillåter lån över data, även om eftersom BWS ofta tillåter uppskattning av individuella nivåmodeller, är fördelarna med Bayesianska modeller kraftigt försvagade. Svarstidsmodeller har nyligen visat sig replikera nyttouppskattningarna av BWS, vilket representerar ett stort steg framåt i valideringen av angivna preferenser i allmänhet och BWS-preferenser specifikt.

Fördelar

BWS frågeformulär är relativt lätta för de flesta respondenter att förstå. Dessutom är människor mycket bättre på att bedöma objekt i ytterligheter än på att särskilja objekt av medelstor vikt eller preferens [ citat behövs ] . Och eftersom svaren involverar val av objekt snarare än att uttrycka preferensstyrka, finns det ingen möjlighet för skalanvändningsbias .

Respondenterna tycker att dessa betygsskalor är väldigt lätta, men de tenderar att leverera resultat som indikerar att allt är "ganska viktigt", vilket gör att data inte är särskilt användbara. [ citat behövs ] BWS å andra sidan tvingar respondenterna att göra val mellan alternativ, samtidigt som de levererar rankningar som visar den relativa betydelsen av objekten som betygsätts. Den producerar också:

  • Fördelningar av "poängen" (beräknat som den bästa frekvensen minus den sämsta frekvensen) för alla poster som gör det möjligt för forskaren att observera den empiriska fördelningen av uppskattade verktyg. Detta ger information om hur realistiska resultaten från traditionella analysmetoder med antagande av kontinuerliga standardfördelningar sannolikt kommer att vara. Konsumenter tenderar att bilda distinkta grupper med ofta mycket olika preferenser, vilket ger upphov till multimodala distributioner.
  • Data som möjliggör undersökning av beslutsregeln (funktionell form av nyttofunktionen) på olika rankningsdjup (enklast "bästa beslutsregeln vs den sämsta beslutsregeln"). Ny forskning tyder på att respondenterna i vissa sammanhang inte använder samma regel, vilket ifrågasätter användningen av uppskattningsmetoder som den rangordnade logitmodellen.
  • Uppskattning av attributpåverkan, ett mått på den totala påverkan av ett attribut på val som inte är tillgängligt från konventionella diskreta valmodeller.
  • Mer data, som ger större insikter om val, för ett givet antal valuppsättningar. Samma information skulle kunna erhållas genom att helt enkelt presentera fler valuppsättningar, men detta riskerar att respondenterna blir uttråkade och inte engagerar sig i uppgiften.
  • Kvantifiera fenomenen responsskifte och anpassning till dåliga hälsotillstånd.

Nackdelar

Bästa–sämsta skalningen involverar insamling av minst två uppsättningar data: som minimum, först-bäst och första-sämst, och i vissa fall ytterligare rangordningar (näst bäst, näst sämst, etc...) Frågan om hur man kombinera dessa uppgifter är relevant. Tidiga arbete som antogs bäst var helt enkelt det omvända till sämsta: att respondenterna hade en intern rankning av alla poster och bara valde den högst/lägst rankade posten i en given fråga. Nyare arbete har föreslagit att detta inte är fallet i vissa sammanhang: en person kan (till exempel) välja enligt traditionell ekonomisk teori för bäst (handla över attribut) men välja sämst med hjälp av en eliminering genom attribut-strategi (att välja som sämst artikel det är helt enkelt oacceptabelt på ett attribut). I närvaro av så olika beslutsregler blir det omöjligt att veta hur man kombinerar data: vid vilken tidpunkt går personen från "ekonomisk handel" till "eliminering av aspekter" när han går ner i rankingen. [ citat behövs ]

Detta presenterar ett tydligt problem för dataförstärkningsmotivationen för BWS men inte nödvändigtvis för BWS när det används som ett sätt att förstå process (beslutsfattande). Särskilt psykologer skulle vara särskilt intresserade av de olika typerna av beslutsfattande. Marknadsförare kanske också vill veta om en viss produkt hade en oacceptabel funktion. Arbete pågår med att utreda när olika beslutsregler uppstår och om/hur data från så olika källor kan kombineras. [ citat behövs ]

BWS lider också av samma nackdelar som alla angivna preferenstekniker. Det är okänt om preferenserna överensstämmer med val som görs i den verkliga världen (avslöjade preferenser). I vissa fall är avslöjade preferenser (vanligtvis verkliga marknadsbeslut) tillgängliga, vilket ger ett test av BWS-valen. I andra, ganska ofta hälsa, finns det inga avslöjade preferensdata och validering verkar omöjlig. På senare tid har försök gjorts att validera SP-data med hjälp av fysiologiska data, såsom eye-tracking och svarstider. Tidiga arbeten tyder på att svarstidsmodeller stämmer överens med resultat från BWS-modeller inom hälso- och sjukvården men det krävs mer forskning i andra sammanhang.

  1. ^ a b c d "Bäst-värsta skalning" . Cambridge University Press . Hämtad 2015-10-01 .
  2. ^ a b c Marley, AAJ; Louviere, JJ (2005-12-01). "Några probabilistiska modeller av bästa, sämsta och bäst–sämsta val". Journal of Mathematical Psychology . Special Issue Honoring Jean-Claude Falmagne: Del 1Special Issue Honoring Jean-Claude Falmagne: Part 1. 49 (6): 464–480. doi : 10.1016/j.jmp.2005.05.003 .
  3. ^ a b Marley, AAJ; Flynn, Terry N.; Louviere, JJ (2008-10-01). "Probabilistiska modeller av uppsättningsberoende och attributnivå bästa–sämsta val". Journal of Mathematical Psychology . 52 (5): 281–296. doi : 10.1016/j.jmp.2008.02.002 . hdl : 10453/8292 .
  4. ^ a b Marley, AAJ; Pihlens, D. (2012-02-01). "Modeller av bästa–sämsta val och rankning bland multiattributalternativ (profiler)" . Journal of Mathematical Psychology . 56 (1): 24–34. doi : 10.1016/j.jmp.2011.09.001 .
  5. ^ a b   Flynn, Terry N.; Louviere, Jordan J.; Peters, Tim J.; Kusten, Joanna (2007-01-01). "Bästa–sämsta skalning: Vad det kan göra för vårdforskning och hur man gör det". Journal of Health Economics . 26 (1): 171–189. doi : 10.1016/j.jhealeco.2006.04.002 . PMID 16707175 .
  6. ^ a b Louviere, Jordanien; Lings, Ian; Islam, Towhidul; Gudergan, Siegfried; Flynn, Terry (2013-09-01). "En introduktion till tillämpningen av (fall 1) bäst–sämsta skalning i marknadsundersökningar" (PDF) . International Journal of Research in Marketing . 30 (3): 292–303. doi : 10.1016/j.ijresmar.2012.10.002 .
  7. ^    Potoglou, Dimitris; Burge, Peter; Flynn, Terry; Netten, Ann; Malley, Juliette; Forder, Julien; Brazier, John E. (2011-05-01). "Bästa–sämsta skalning vs. diskreta valexperiment: En empirisk jämförelse med hjälp av socialvårdsdata" ( PDF) . Samhällsvetenskap & medicin . 72 (10): 1717–1727. doi : 10.1016/j.socscimed.2011.03.027 . PMID 21530040 . S2CID 10594387 .
  8. ^    García-Lapresta, José Luis; Marley, A. a. J.; Martínez-Panero, Miguel (2009-09-12). "Karakteriserar bäst–sämsta röstningssystem i poängsammanhang". Socialt val och välfärd . 34 (3): 487–496. doi : 10.1007/s00355-009-0417-1 . ISSN 0176-1714 . S2CID 18334695 .
  9. ^   Scarpa, Riccardo; Notaro, Sandra; Louviere, Jordanien; Raffaelli, Roberta (2011-06-19). "Undersöka skaleffekter av bästa/sämsta rankade valdata för att uppskatta fördelarna med turism i Alpine Grazing Commons". American Journal of Agricultural Economics . 93 (3): 813–828. doi : 10.1093/ajae/aaq174 . ISSN 0002-9092 .
  10. ^    Huybers, Twan (2014-05-19). "Elevens utvärdering av undervisning: användningen av bäst–sämst skalning". Bedömning och utvärdering inom högre utbildning . 39 (4): 496–513. doi : 10.1080/02602938.2013.851782 . ISSN 0260-2938 . S2CID 144637200 .
  11. ^   Cohen, Eli (2009-03-20). "Tillämpa bästa-sämsta skalning på vinmarknadsföring null". International Journal of Wine Business Research . 21 (1): 8–23. doi : 10.1108/17511060910948008 . ISSN 1751-1062 .
  12. ^     Ross, Melissa; Bridges, John FP; Ng, Xinyi; Wagner, Lauren D.; Frosch, Emily; Reeves, Gloria; dosReis, Susan (2014-11-17). "Ett bästa-värsta skalningsexperiment för att prioritera vårdgivares oro för ADHD-medicinering för barn" . Psykiatriska tjänster . 66 (2): 208–211. doi : 10.1176/appi.ps.201300525 . ISSN 1075-2730 . PMC 5294953 . PMID 25642618 .
  13. ^ Mueller lös, Simone; Lockshin, Larry (2013-03-01). "Testa robustheten av bästa sämsta skalning för gränsöverskridande segmentering med olika antal valuppsättningar". Matkvalitet och preferenser . Nionde Pangborn Sensory Science Symposium. 27 (2): 230–242. doi : 10.1016/j.foodqual.2012.02.002 .
  14. ^     Severin, Franziska; Schmidtke, Jörg; Mühlbacher, Axel; Rogowski, Wolf H. (2013-11-01). "Framkalla preferenser för prioritering av genetiska tester: en pilotstudie som jämför bästa-sämsta skalning och diskreta valexperiment. " European Journal of Human Genetics . 21 (11): 1202–1208. doi : 10.1038/ejhg.2013.36 . ISSN 1018-4813 . PMC 3798841 . PMID 23486538 .
  15. ^     Flynn, Terry N.; Louviere, Jordan J.; Peters, Tim J.; Kusten, Joanna (2008-11-18). "Uppskattning av preferenser för en dermatologisk konsultation med Bästa-värsta skalningen: Jämförelse av olika analysmetoder" . BMC Medical Research Methodology . 8 (1): 76. doi : 10.1186/1471-2288-8-76 . ISSN 1471-2288 . PMC 2600822 . PMID 19017376 . open access
  16. ^ Louviere, Jordan J.; Street, Deborah ; Burgess, Leonie; Wasi, Nada; Islam, Towhidul; Marley, Anthony AJ (2008-01-01). "Modellera individuella beslutsfattares val genom att kombinera effektiva valexperimentdesigner med extra preferensinformation" . Journal of Choice Modeling . 1 (1): 128–164. doi : 10.1016/S1755-5345(13)70025-3 .
  17. ^     Flynn, Terry N. (2010-06-01). "Värdera medborgarnas och patientens preferenser i hälsa: den senaste utvecklingen inom tre typer av skalning bäst–värst". Expertgranskning av farmakoekonomi och resultatforskning . 10 (3): 259–267. doi : 10.1586/erp.10.29 . ISSN 1473-7167 . PMID 20545591 . S2CID 39949090 .
  18. ^    Baumgartner, Hans; Steenkamp, ​​Jan-Benedict EM (2001-05-01). "Responsstilar i marknadsföringsforskning: en tvärnationell undersökning". Journal of Marketing Research . 38 (2): 143–156. doi : 10.1509/jmkr.38.2.143.18840 . ISSN 0022-2437 . S2CID 11304067 .
  19. ^   Steenkamp, ​​Jan‐Benedict EM; Baumgartner, Hans (1998-06-01). "Bedöma mätinvarians i tvärnationell konsumentforskning" . Journal of Consumer Research . 25 (1): 78–107. doi : 10.1086/209528 . JSTOR 10.1086/209528 .
  20. ^ a b c N. Flynn, Terry; J. Peters, Tim; Kusten, Joanna (2013-03-01). "Kvantifiera responsskifte eller anpassningseffekter i livskvalitet genom att syntetisera bästa-sämsta skalning och diskreta valdata". Journal of Choice Modeling . 6 :34–43. doi : 10.1016/j.jocm.2013.04.004 .
  21. ^   Kusten, Joanna; Flynn, Terry N.; Natarajan, Lucy; Sproston, Kerry; Lewis, Jane; Louviere, Jordan J.; Peters, Tim J. (2008-09-01). "Värdera ICECAP förmåga index för äldre människor". Samhällsvetenskap & medicin . Del Special Issue: Etik och etnografi av medicinsk forskning i Afrika. 67 (5): 874–882. doi : 10.1016/j.socscimed.2008.05.015 . hdl : 10453/9747 . PMID 18572295 .
  22. ^     Al-Janabi, Hareth; Flynn, Terry N.; Kusten, Joanna (2011-05-01). "Uppskattning av en preferensbaserad vårdares erfarenhetsskala". Medicinskt beslutsfattande . 31 (3): 458–468. doi : 10.1177/0272989X10381280 . ISSN 0272-989X . PMID 20924044 . S2CID 30922199 .
  23. ^     Ratcliffe, professor Julie; Flynn, Terry; Terlich, Frances; Stevens, Katherine; Brazier, John; Sawyer, Michael (2012-12-23). "Utveckla ungdomsspecifika hälsotillståndsvärden för ekonomisk utvärdering". Farmakoekonomi . 30 (8): 713–727. doi : 10.2165/11597900-000000000-00000 . ISSN 1170-7690 . PMID 22788261 . S2CID 21778695 .
  24. ^    Kusten, Joanna; Al-Janabi, Hareth; Sutton, Eileen J.; Horrocks, Susan A.; Vosper, A. Jane; Swancutt, Dawn R.; Flynn, Terry N. (2012-06-01). "Att använda kvalitativa metoder för attribututveckling för diskreta valexperiment: frågor och rekommendationer". Hälsoekonomi . 21 (6): 730–741. doi : 10.1002/hec.1739 . ISSN 1099-1050 . PMID 21557381 .
  25. ^ a b     Hawkins, Guy E.; Marley, Aaj; Heathcote, Andrew; Flynn, Terry N.; Louviere, Jordan J.; Brown, Scott D. (2014-05-01). "Integrera kognitiva processer och beskrivande modeller för attityder och preferenser" . Kognitionsvetenskap . 38 (4): 701–735. doi : 10.1111/cogs.12094 . ISSN 1551-6709 . PMID 24124986 . S2CID 15328149 .
  26. ^ "De bästa tiderna och de värsta tiderna är utbytbara" . APA PsychNET . Hämtad 2015-10-01 .