問卷調(diào)查法的應(yīng)用
一、為何選擇問卷調(diào)查法
產(chǎn)品方對(duì)于此次用研項(xiàng)目提出的需求如下:
初看上去,需求比較多、比較雜,似乎無法用一個(gè)方法解決所有問題。經(jīng)過反復(fù)和產(chǎn)品方的溝通交流,就能挖掘出他們心中最希望了解的內(nèi)容。再整理一下,就變成下面的表格:
最終結(jié)果除了要展示出網(wǎng)易XX用戶的上述情況,還涉及對(duì)調(diào)查對(duì)象的多種分類,以及不同類別用戶在具體題目上的橫向比較——這可能更為重要。
而問卷調(diào)查法特別適用于調(diào)查:用戶的使用目的、使用行為習(xí)慣、態(tài)度和觀點(diǎn)、人口學(xué)信息;不適合探索用戶新的、模糊的需求。
所以,此次調(diào)研項(xiàng)目適宜于選擇問卷調(diào)查法作為主要方法(同時(shí)選用訪談法、運(yùn)營數(shù)據(jù)作補(bǔ)充參考)。
二、問卷素材的來源和依據(jù)
1、二手資料(已有的理論、報(bào)告及行業(yè)資訊)
2、自己的使用體驗(yàn)、競(jìng)品分析
需要把自己培養(yǎng)成產(chǎn)品的深度用戶,并且還要堅(jiān)持使用競(jìng)爭(zhēng)產(chǎn)品。這樣有助于形成自己對(duì)產(chǎn)品的直覺和感性認(rèn)識(shí)。而競(jìng)品分析能幫助自己對(duì)產(chǎn)品有更充分的理解,讓我們從感性認(rèn)識(shí)中提煉出理性看法,同時(shí)確保能全面地細(xì)致地審視(不會(huì)遺漏重要細(xì)節(jié))。
3、對(duì)產(chǎn)品設(shè)計(jì)人員、普通用戶的簡(jiǎn)單訪談
“三人行,必有吾師”,自學(xué)完了,再讓產(chǎn)品設(shè)計(jì)人員、普通用戶教你一些知識(shí)吧。
此時(shí)的訪談采用輕松聊天的形式(半結(jié)構(gòu)式),訪談的對(duì)象也是方便取樣、就近選擇——目的不在于得出什么結(jié)論,更多地是幫助自己進(jìn)一步加深理解、窮盡多種可能性,為編寫問卷做準(zhǔn)備。
而且對(duì)于產(chǎn)品設(shè)計(jì)人員的訪談,還能順便獲悉產(chǎn)品部門工作流程、組織架構(gòu)、人員配置、可動(dòng)用的資源等信息——看似無關(guān)緊要,其實(shí)能使我們最終調(diào)查報(bào)告的建議更有針對(duì)價(jià)值!
三、問卷細(xì)節(jié)
1、指示性說明
社會(huì)調(diào)查類的教科書里通常要求我們寫上長(zhǎng)長(zhǎng)的一大段說明文字,但在互聯(lián)網(wǎng)上有多少人會(huì)認(rèn)真看一大坨文字?看看《don’t make me think》作者如何做的:從103個(gè)單詞刪減到41個(gè)單詞(該書中文第二版,P34)!非必要信息不得出現(xiàn)在問卷的指示性說明中。
需要提及的核心信息無非就這幾個(gè):
A.目的:幫助改進(jìn)網(wǎng)易XX,也歡迎非網(wǎng)易用戶作答
B.時(shí)間:3-5分鐘
C. 匿名和保密
D.有獎(jiǎng):通過質(zhì)量檢核的完整答卷可參與抽獎(jiǎng)
2、題目編制思路
3、題目設(shè)置需注意的細(xì)節(jié)
1) 簡(jiǎn)潔、明確:有時(shí)這兩者是個(gè)矛盾,但盡量做到平衡。
【例子】 您使用XX的歷史多久?——簡(jiǎn)潔
您第一次使用XX是什么時(shí)候?——簡(jiǎn)潔、通俗
您第一次使用XX(不一定是目前最常用的這個(gè))是什么時(shí)候?——稍微犧牲了“簡(jiǎn)潔”,但是更“明確”!
2) 態(tài)度中立、無誘導(dǎo)性
【例子】 您對(duì)目前常用的XX滿意嗎?
您對(duì)目前常用XX的滿意程度為?
4、選項(xiàng)設(shè)置需注意的細(xì)節(jié)
1) 選項(xiàng)互斥
【例子】 您平時(shí)上網(wǎng)較常瀏覽的內(nèi)容為?
A.熱點(diǎn)/頭條新聞 B.娛樂八卦 C.時(shí)事政治 D.游戲/動(dòng)漫 ……
選項(xiàng)A原本是為了對(duì)應(yīng)于“每天都會(huì)看新聞?lì)^條、但對(duì)于內(nèi)容領(lǐng)域沒有特別偏好”的這樣一部分人的行為;但A選項(xiàng)與后面選項(xiàng)存在著重疊,尤其A與C重疊的程度非常高。于是,刪除C選項(xiàng),把A選項(xiàng)改為“時(shí)事新聞”。
2) 包含所有的可能
能否做到這一點(diǎn),就反映出準(zhǔn)備階段的工作是否充分。當(dāng)懷疑選項(xiàng)設(shè)置可能不全時(shí),可以再去找產(chǎn)品、設(shè)計(jì)、運(yùn)營人員探討、核對(duì)。
此外,可以設(shè)置【其它________】選項(xiàng),以確保用戶始終可以作出選擇;同時(shí),選擇【其它_______】選項(xiàng)的比例高低也反映了選項(xiàng)設(shè)置是否全面。
3) 用戶易理解
【例子】詢問用戶使用的手機(jī)操作系統(tǒng)時(shí),選項(xiàng)“iOS(iPhone)、symbian(塞班)”就比“iOS、symbian”更容易理解,雖然前一種表達(dá)貌似不倫不類。
4) 變量的測(cè)量類型
實(shí)際工作中,只大體區(qū)分為“類別變量”和“連續(xù)變量”兩大類。就統(tǒng)計(jì)測(cè)量層次上來說, “連續(xù)變量”比“類別變量”級(jí)別高,包含信息豐富,也可以使用稍高級(jí)的統(tǒng)計(jì)方法。所以,可能的情況下,盡量讓選項(xiàng)“變?yōu)檫B續(xù)變量”。
【例子】 想了解用戶平時(shí)分享站外內(nèi)容的情況,兩種選項(xiàng)設(shè)置(后一種更好):
A.分享 B.不分享
A.頻繁 B.經(jīng)常 C.一般 D.很少 E.從不
5) 態(tài)度中立、無誘導(dǎo)性
【例子】選項(xiàng)“時(shí)事政治”改為“時(shí)事新聞”;“憤青”改為“熱衷點(diǎn)評(píng)時(shí)政的普通人”
6) 隨機(jī)順序呈現(xiàn)
若選項(xiàng)為事實(shí)性的、類別變量,而非按程度順序遞進(jìn)的連續(xù)變量,那么選項(xiàng)應(yīng)該隨機(jī)順序呈現(xiàn)給答題者,這樣可以排除首尾選項(xiàng)或中間選項(xiàng)更易被選擇的傾向。
5、避免反應(yīng)心向
反應(yīng)心向是指回答問卷的人具有一種比較固定的作答傾向。有時(shí)可能是有意識(shí)的:討好出題者;給別人留下好印象。有時(shí)可能是無意識(shí)的:習(xí)慣回答“是”、“同意”;社會(huì)贊許性——避免社會(huì)文化規(guī)范里不贊同、或負(fù)面的評(píng)價(jià);回避、防衛(wèi)敏感隱私問題或社會(huì)禁忌話題。
在線下、面對(duì)面、有獎(jiǎng)品的答題環(huán)境下,更易發(fā)生有意識(shí)的反應(yīng)心向的問題。在互聯(lián)網(wǎng)上、匿名的情況下,有意識(shí)的反應(yīng)心向會(huì)減弱很多,無意識(shí)的反應(yīng)心向也可以通過以下努力得到緩解。具體做法如下:
1) 指示性說明部分:強(qiáng)調(diào)匿名和保密;強(qiáng)調(diào)認(rèn)真、如實(shí)回答才能參與抽獎(jiǎng)。
2) 問卷中:非必要情況下,不要求用戶填寫收入狀況、手機(jī)號(hào)碼。即便確實(shí)是調(diào)查所需,也要說明緣由,且保留用戶自主決定是否回答的權(quán)利。
3) 問卷中:設(shè)計(jì)一些呼應(yīng)的題目互相印證;并且可以適當(dāng)采用反向計(jì)分的方式。
4) 數(shù)據(jù)分析時(shí):涉及自家產(chǎn)品和別家產(chǎn)品的滿意度、好感度等這些態(tài)度評(píng)價(jià)的比較時(shí),一定要小心得出結(jié)論(可能存在反應(yīng)心向,用戶對(duì)自己產(chǎn)品的評(píng)價(jià)很好)。
6、建立不同問題、選項(xiàng)間的呼應(yīng)
一方面,可以互相印證,提升問卷的信度(當(dāng)然,沒必要僅僅為此而增加題量——得不償失)。另一方面,便于在統(tǒng)計(jì)分析時(shí)采用交叉分析/列聯(lián)表的方法——這會(huì)為你的調(diào)查報(bào)告在“豐富、準(zhǔn)確、有價(jià)值”方面提升很多!
【例子】“選擇目前這家XX作為您最常用的XX的主要原因?yàn)椋?rdquo;、“您對(duì)目前最常用這個(gè)XX主要不滿之處為?”這兩個(gè)題目的結(jié)果可以用來互相印證。
【例子】“您在XX上比較關(guān)心什么類型的人?”“您在XX上感興趣的內(nèi)容為?”這兩個(gè)題目可以用來做交叉分析,能找出“人”和“內(nèi)容”最典型、最具代表性的組合。
7、題目的排序
總體的題目排序原則如上,有時(shí)也要考慮一些特殊情況,比如“接觸產(chǎn)品時(shí)間有先后關(guān)系、操作流程有特定的順序”,此時(shí)局部的題目則按“時(shí)間/流程先后”排序。
8、問卷題量
先看問卷法和量表法的區(qū)別:
可以這樣通俗地理解:量表是許多專家、花了大量精力在編制環(huán)節(jié)(工具本身的信效度很高);測(cè)試時(shí)需要的樣本量稍小一些,就能達(dá)到研究目的。問卷原本就需要大量代表性的樣本才能實(shí)現(xiàn)目的,況且問卷本身的信效度還欠佳,更需要大量樣本了。
為了得到大量的樣本,且希望數(shù)據(jù)質(zhì)量較高,問卷本身就會(huì)受到限制——題量要偏少。實(shí)際工作中,將問卷總題目數(shù)控制在25題之內(nèi),平均答題時(shí)間不超過300秒(事后統(tǒng)計(jì))。
四、預(yù)測(cè)試
經(jīng)過了這么細(xì)致和長(zhǎng)久的準(zhǔn)備,似乎不會(huì)再有問題,迫不及待地想要投放問卷了。且慢!智者千慮,必有一失。此時(shí)應(yīng)該再找一些產(chǎn)品/設(shè)計(jì)人員、普通用戶來預(yù)測(cè)試一下(方便取樣、最好找之前沒有參與過討論的人)。依據(jù)個(gè)人經(jīng)驗(yàn),這個(gè)環(huán)節(jié)還是能檢查出一些遺漏問題的。
【例子】問卷中的一題:“您在XX上查找他人的方式為?”自我感覺選項(xiàng)中已經(jīng)列舉了各種常用方式,一位交互設(shè)計(jì)師在預(yù)測(cè)試時(shí)問我:為何沒有“直接搜索找人”選項(xiàng)?原來我忽略了這個(gè)最直接、原始的查找方式。
五、問卷投放
除了問卷本身的質(zhì)量,直接影響調(diào)查成敗的因素就是樣本質(zhì)量(實(shí)際也就是問卷投放策略的考慮)。順便總結(jié)一下,量表調(diào)查法最重要的是工具本身(量表的質(zhì)量、常模指標(biāo))和高級(jí)統(tǒng)計(jì)方法;實(shí)驗(yàn)法最重要的是控制和操控(對(duì)無關(guān)變量的控制、對(duì)自變量的操控);而問卷調(diào)查法最重要的是樣本(樣本量足夠大,且具有代表性)。想要樣本量大,就盡可能多地動(dòng)用投放渠道,當(dāng)然還有些投放小技巧(越處于操作流程結(jié)束后、入口文案的排版越獨(dú)立,反饋問卷的打開率越高,詳見taobao UED渡劫的《賣家反饋的影響因素的量化研究》)。
這邊著重談一下樣本代表性的問題。首先得承認(rèn),網(wǎng)上投放問卷不是完全隨機(jī)抽樣,我們無法苛求調(diào)查對(duì)象的各種特征完全匹配現(xiàn)實(shí)生活中的總體,但是,我們要盡可能爭(zhēng)取覆蓋到不同類別用戶群,以具有更大代表性。
【例子】此次調(diào)查,我們除了想知道網(wǎng)易XX用戶的情況,我們還希望能夠了解新浪、騰訊、其它XX用戶的情況。為此,我們做了以下努力:
1) 除了在網(wǎng)易門戶投放問卷,我們希望盡可能擴(kuò)大站外投放渠道比例,比如:全國各大論壇、一些搜索引擎頁面、視頻網(wǎng)站頁面等,甚至最好能投放到其它門戶網(wǎng)站(當(dāng)然實(shí)際上不可能花這么多代價(jià))。
2) 當(dāng)推廣和市場(chǎng)部門的同事希望問卷的點(diǎn)擊圖片包含“網(wǎng)易XX”的字眼(可順便起到廣告宣傳的作用)。對(duì)此,我堅(jiān)決反對(duì),因?yàn)檫@樣無疑會(huì)嚴(yán)重影響“新浪、騰訊、其它XX用戶”的點(diǎn)擊。
3) 在論壇投放問卷鏈接,市場(chǎng)的同事采用軟文帖的形式,大意是“目前XX產(chǎn)品很火,大家可以去通過此問卷能了解XX產(chǎn)品”,寫得幽默風(fēng)趣、激發(fā)看帖人的好奇心。有同事不認(rèn)可這種做法,認(rèn)為不符合問卷指示說明的規(guī)范,可能會(huì)對(duì)用戶作答產(chǎn)生影響。但我個(gè)人反而認(rèn)為這是個(gè)比較好的技巧。
首先,在工作中是不可能完美地遵循到所有的原則,一定要有“主要矛盾、和矛盾的主要方面”的辯證思維方式,必要的時(shí)候須權(quán)衡利弊綜合考慮。比如,此時(shí)我們最重要的目標(biāo)是一定要覆蓋到“新浪、騰訊、其它XX的用戶群”,且數(shù)量還不能少。
其次,看那種帖的時(shí)候,用戶是采用的“掃描”而非“仔細(xì)閱讀”的方式,頂多動(dòng)用的是瞬時(shí)記憶,等跳轉(zhuǎn)了頁面、再閱讀正式的問卷指示說明及填寫問卷時(shí),之前的瞬時(shí)記憶的影響很小。
第三,問卷中讓用戶表達(dá)直接態(tài)度的題目較少,更多地是事實(shí)性的問題,這些問題本身難以受到誘導(dǎo)出現(xiàn)系統(tǒng)性的偏差。
第四,我們整理數(shù)據(jù)時(shí),還有一系列事后的數(shù)據(jù)檢核手段。
4) 設(shè)置自動(dòng)的隱含題目,能區(qū)分來自各投放渠道的樣本量(尤其是區(qū)分網(wǎng)易站內(nèi)、站外)。
六、數(shù)據(jù)整理
通常數(shù)據(jù)的檢核需刪除不完整答卷、多選題全選的答卷、邏輯矛盾的答卷;準(zhǔn)確且豐富的篩查手段有助于進(jìn)一步提高數(shù)據(jù)的質(zhì)量(這一步可以在excel或者SPSS上完成)。
另外,還需要根據(jù)“答題時(shí)長(zhǎng)”來篩除問卷(太短反映了不認(rèn)真,太長(zhǎng)反映了答題時(shí)受外界干擾較多)。采用SPPS中箱形圖的分析,可以清楚地看到“答題時(shí)長(zhǎng)”這個(gè)指標(biāo)上的偏離值和極端值,及它們對(duì)映的問卷ID編號(hào),這樣就能很方便地刪除了。
七、統(tǒng)計(jì)分析
問卷調(diào)查法因?yàn)樽兞康臏y(cè)量類型限制,可用的統(tǒng)計(jì)方法比較低級(jí),描述性統(tǒng)計(jì)居多,有時(shí)會(huì)用到交叉分析、卡方檢驗(yàn)(偶爾還可以用到相關(guān)分析、方差分析)?;剡^頭來,再次說明問卷編制階段就要考慮好可能用到的統(tǒng)計(jì)方法、以及如何盡可能地讓選項(xiàng)設(shè)置為連續(xù)型的變量。
這個(gè)環(huán)節(jié)雖不像前面的環(huán)節(jié)直接關(guān)系調(diào)查的成?。ㄒ?yàn)橛蟹磸?fù)嘗試的機(jī)會(huì)),但若能夠合理且充分地利用統(tǒng)計(jì)技術(shù),將會(huì)給最終報(bào)告的價(jià)值帶來很大的提升。這與用研人員的專業(yè)素養(yǎng)有很大關(guān)系,需長(zhǎng)期不斷努力才能提升,此處不細(xì)談。
八、總結(jié)
看似簡(jiǎn)單的問卷調(diào)查,要能做好且讓它發(fā)揮最大價(jià)值,確實(shí)有很多細(xì)致的、值得推敲之處。一次用研項(xiàng)目(不管是不是問卷調(diào)查法),前期的準(zhǔn)備和計(jì)劃都非常重要,磨刀不誤砍柴工!
??