Репрезентативность телефонных опросов

25
Репрезентативность телефонных опросов Тимур Османов ФОМ Продолжая Грушина. Февраль 2014.

Upload: timur-osmanov

Post on 16-Jun-2015

930 views

Category:

Marketing


1 download

DESCRIPTION

Телефонные опросы в России через призму общей теории ошибок (total error framework)

TRANSCRIPT

Page 1: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014.

Репрезентативность телефонных опросов

Тимур ОсмановФОМ

Page 2: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 2

В данной презентации под термином телефонный опрос понимается опрос населения России, проведенный на основе случайной (RDD) двухосновной пересекающейся выборке мобильных и стационарных номеров телефонов. Случайная генерация телефонных номеров опирается на информацию о задействованных диапазонах телефонной связи в России, размещенную на официальном сайте Россвязи.

Репрезентативность – это свойство выборки воспроизводить характеристики исследуемой совокупности.

Page 3: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 3

Общая теория ошибок (total error framework)

КОНСТРУКТ

ИЗМЕРЕНИЕ

ОТВЕТ

НАБОРДАННЫХ

ЦЕЛЕВАЯГРУППА

ОСНОВАВЫБОРКИ

СПРОЕКТИРОВАННАЯ ВЫБОРКА

РЕАЛИЗОВАННАЯ ВЫБОРКА

ВЫВОДЫ, ЗАКЛЮЧЕНИЯ,

РЕКОМЕНДАЦИИ

[Lavrakas, P.J, 2013, P. 835]

Ошибки измерения Ошибки репрезентации

Ошибки спецификации

Ошибки измерения

Ошибки регистрации

Ошибки вывода

Ошибки покрытия

Ошибки выборки

Ошибки неответов

Ошибки редактирования

Page 4: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 4

Общая теория ошибок (total error framework)

КОНСТРУКТ

ИЗМЕРЕНИЕ

ОТВЕТ

НАБОРДАННЫХ

ЦЕЛЕВАЯГРУППА

ОСНОВАВЫБОРКИ

СПРОЕКТИРОВАННАЯ ВЫБОРКА

РЕАЛИЗОВАННАЯ ВЫБОРКА

ВЫВОДЫ, ЗАКЛЮЧЕНИЯ,

РЕКОМЕНДАЦИИ

[Lavrakas, P.J, 2013, P. 835]

Ошибки измерения Ошибки репрезентации

Ошибки спецификации

Ошибки измерения

Ошибки регистрации

Ошибки вывода

Ошибки покрытия

Ошибки выборки

Ошибки неответов

Ошибки редактирования

Page 5: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 5

Величина ошибки покрытия обусловлена долей покрытия и отличиями между охваченной и неохваченной частями совокупности.

𝑌 𝑐−𝑌 𝑇=(𝑁𝑁𝐶

𝑁 ) [𝑌 𝑐−𝑌 𝑁𝐶 ]

измеренная оценка величины Y, - оценка величины Y с учетом ошибки покрытия, - доля покрытия, - оценка величины Y для неохваченной части совокупности.

Ошибки покрытия

Page 6: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 6

Ошибки покрытия

По данным ФОМ* уровень телефонизации населения России составляет 95%.

Только 5% населения России не имеют ни мобильного, ни домашнего стационарного телефона.

По данным Pew Research Center** мобильный телефон есть у 94% населения.

*Всероссийский ftf опрос ФОМнибус проводился 20-23 февраля 2014 года. Выборка 3000 респондентов. Погрешность не превышает 2,5 п.п. У 90% населения есть мобильный телефон, у 53% населения есть стационарный телефон.

**Выборка 996 респондентов, опрос ftf проводился 5-21 марта 2013 года, погрешность не превышает 3,6 п.п. [http://www.pewglobal.org/2014/02/13/emerging-nations-embrace-internet-mobile-technology/]

Page 7: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 7

Ошибки покрытия

Вопрос о наличии стационарного либо мобильного телефона задается в опросах ФОМ с 2011 года.

Мы знаем, что люди без телефона значительно отличаются от людей с каким-либо телефоном (мобильным либо стационарным домашним).

Однако ошибка покрытия не превышает 1 п.п. Анализировались распределения ответов на вопросы, которые были в одной анкете с вопросом о наличии телефонов.

Page 8: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 8

Общая теория ошибок (total error framework)

КОНСТРУКТ

ИЗМЕРЕНИЕ

ОТВЕТ

НАБОРДАННЫХ

ЦЕЛЕВАЯГРУППА

ОСНОВАВЫБОРКИ

СПРОЕКТИРОВАННАЯ ВЫБОРКА

РЕАЛИЗОВАННАЯ ВЫБОРКА

ВЫВОДЫ, ЗАКЛЮЧЕНИЯ,

РЕКОМЕНДАЦИИ

[Lavrakas, P.J, 2013, P. 835]

Ошибки измерения Ошибки репрезентации

Ошибки спецификации

Ошибки измерения

Ошибки регистрации

Ошибки вывода

Ошибки покрытия

Ошибки выборки

Ошибки неответов

Ошибки редактирования

Page 9: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 9

Ошибки выборки

Вероятность респондентов попасть в выборку зависит от их практик пользования телефонами. Например:• пожилые чаще пользуются стационарными

телефонами, молодежь – мобильными; • в селе люди часто используют мобильный

телефон в качестве домашнего;• чаще других несколькими сим-картами

пользуются жители крупных городов, люди с высшим образованием.

Page 10: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 10

Ошибки выборкиСколько человек 18 лет и старше, включая Вас, проживает вместе с Вами в Вашей семье?

Есть ли у Вас личный мобильный телефон?

Скажите, пожалуйста, вы всегда один (одна) пользуетесь этим мобильным телефоном, или им пользуется несколько человек? Если несколько, то сколько именно?

Сейчас вы лично постоянно (не реже раза в неделю) для разговора пользуетесь одним номером мобильного телефона, сим-картой или несколькими? Если несколькими, то сколькими именно?

Есть ли у Вас стационарный домашний телефон?

Размер домохозяйства

Стац.

Моб.

Пользователи моб.

Количество моб.

Page 11: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 11

Ошибки выборкиВероятность отбора=Моб .×

Количество моб .Пользователи моб .

+Стац .×1

Размердомохозяйства

Анализ 17 волн всероссийского телефонного опроса ФОМ-ОМ, проведенных в период с апреля по декабрь 2013 года. Всего 17208 полных интервью.Всероссийский ftf опрос ФОМнибус проводился 20-23 февраля 2014 года. Выборка 3000 респондентов. Погрешность не превышает 2,5 п.п.

Опрос ftf

Телефонный опросвыравнивается

вероятность отбора

Телефонный опросбез взвешивания

50.5129112133003

47.2

38.8

44.4287230279448

45.5

58

5.05836575875486

7.4

3.2

только мобильный мобильный и стационарный только стационарный

Page 12: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 12

Общая теория ошибок (total error framework)

КОНСТРУКТ

ИЗМЕРЕНИЕ

ОТВЕТ

НАБОРДАННЫХ

ЦЕЛЕВАЯГРУППА

ОСНОВАВЫБОРКИ

СПРОЕКТИРОВАННАЯ ВЫБОРКА

РЕАЛИЗОВАННАЯ ВЫБОРКА

ВЫВОДЫ, ЗАКЛЮЧЕНИЯ,

РЕКОМЕНДАЦИИ

[Lavrakas, P.J, 2013, P. 835]

Ошибки измерения Ошибки репрезентации

Ошибки спецификации

Ошибки измерения

Ошибки регистрации

Ошибки вывода

Ошибки покрытия

Ошибки выборки

Ошибки неответов

Ошибки редактирования

Page 13: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 13

Величина ошибки неответов обусловлена величиной достижимости и отличиями между опрошенной и недостигнутой частями совокупности.

Ошибки неответов

Page 14: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 14

Логика работы интервьюеровОшибки неответов

Дозвонились (взяли трубку)

• Техническая достижимость

Согласие на опрос

• Результат контакта с отобранным респондентом

Завершенное интервью

• Доведение интервью до конца

Page 15: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 15

Ошибки неответов

Технический результат дозвона:Результат дозвона*: Стац. Моб.

Дозвонились 18% 17%

Занято 10% 4%

Неверный номер 35% 34%

Нет ответа 31% 36%

Ошибка при звонке 6% 8%

Анализ телефонных опросов ФОМ, проведенных в период с августа 2013 года по февраль 2014 года. Всего 680000 телефонных номеров, задействованных в различных проектах.* Под результатом дозвона понимается результат последнего звонка на телефонный номер.

Page 16: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 16

Ошибки неответовУстойчивость результата дозвона по одному и тому же номеру телефона в различных опросах

Мобильный телефонЗвонок 2

Случаев:Дозвонились Занято

Неверный номер

Нет ответаОшибка при

звонке

Звонок 1

Дозвонились 53% 3% 6% 37% 2%6205

Занято 9% 18% 36% 31% 6%1528

Неверный номер 2% 4% 59% 31% 4%12277

Нет ответа 14% 4% 26% 51% 5%12607

Ошибка при звонке 24% 3% 11% 31% 31%1522

  Устойчивость 52%          

               

Стационарный телефонЗвонок 2

Случаев:Дозвонились Занято

Неверный номер

Нет ответаОшибка при

звонке

Звонок 1

Дозвонились 71% 2% 3% 23% 1%1908

Занято 4% 65% 11% 17% 2%1695

Неверный номер 2% 4% 79% 12% 3%2850

Нет ответа 17% 6% 13% 60% 4%3107

Ошибка при звонке 7% 15% 31% 27% 20%424

  Устойчивость 66%          

Page 17: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 17

Ошибки неответов

Результат взаимодействия с респондентом:

Моб. Стац.полное интервью 27% 18%отказ 42% 48%моложе 18 лет 4% 4%прерванное интервью 7% 4%вне целевой группы 7% 12%другое 13% 16%

Анализ 17 волн всероссийского телефонного опроса ФОМ-ОМ, проведенных в период с апреля по декабрь 2013 года. Всего 17208 полных интервью

Page 18: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 18

Ошибки неответов

Мобильный телефон

Звонок 2

Случаев:полное интервью отказ моложе 18

летпрерв.

интервьювне целевой

группы другое

Звонок 1

полное интервью 37% 34% 2% 4% 4% 18% 1489

отказ 13% 62% 2% 4% 7% 12% 2153

моложе 18 лет 9% 24% 48% 3% 6% 10% 185

прерванное интервью 18% 49% 3% 5% 8% 17% 237

вне целевой группы 15% 40% 3% 4% 26% 12% 388

другое 24% 44% 1% 5% 6% 19% 572

Устойчивость 43%

Стационарный телефон

Звонок 2

Случаев:полное интервью отказ моложе 18

летпрерв.

интервьювне целевой

группы другое

Звонок 1

полное интервью 25% 44% 4% 4% 5% 19% 879

отказ 9% 65% 3% 2% 7% 13% 1887

моложе 18 лет 14% 34% 26% 3% 5% 17% 149

прерванное интервью 13% 60% 4% 9% 5% 9% 128

вне целевой группы 7% 26% 2% 1% 58% 6% 410

другое 19% 46% 3% 3% 6% 23% 593

Устойчивость 45%

Устойчивость результата взаимодействия с респондентом по одному и тому же номеру телефона в различных опросах

Page 19: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 19

Ошибки неответов

Отличия между опрошенной и недостигнутой частями совокупности:1. Мини-интервью при отказе от основного

опроса.2. Анализ прерванных интервью.

Page 20: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 20

Ошибки неответовОтказникам задается несколько вопросов.

Вы проживает в городе или селе?

33% отказников ответили на этот вопрос.

В 67% случаев мы не знаем тип населенного пункта отказников.

Тип населенного пункта

Результат взаимодействия с респондентом

Отказ Полное интервью

город, пгт 81% 80%село 19% 20%респондентов 1675 3059

Анализ 3 волн всероссийского телефонного опроса ФОМ-ОМ, проведенных в январе-феврале 2014 года.

Page 21: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 21

Ошибки неответовОтказникам задается несколько вопросов. Сколько полных лет Вам исполнилось?

36% отказников ответили на этот вопрос.

В 64% случаев мы не знаем возраст отказников.

Зависимость коэффициента кооперации (COOP3) от пола и возраста респондента, типа телефона.

Анализ 17 волн всероссийского телефонного опроса ФОМ-ОМ, проведенных в период с апреля по декабрь 2013 года. Всего 17208 полных интервью.

<= 24,00 25,00 - 28,00 29,00 - 33,00 34,00 - 38,00 39,00 - 44,00 45,00 - 50,00 51,00 - 55,00 56,00 - 61,00 62,00 - 70,00 71,00+0.3

0.4

0.5

0.6

0.7

Муж. Стац. Жен. Стац. Муж. Моб. Жен. Моб.

Page 22: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 22

Ошибки неответовАнализ прерванных интервью.По подавляющему большинству вопросов значимых отличий между полными и прерванными интервью не наблюдается. Но есть и исключения. Более склонны прерывать интервью:

• пожилые люди (65+ вне зависимости от пола)• с низким доходом• без мобильного телефона• без стационарного телефона• никогда не пользовались интернетом, НЕ суточная

аудитория интернета

Анализ 22 волн телефонного опроса ФОМ ОМ, проведенных в период с апреля 2013 года по январь 2014 года. Различия в ответах на открытые вопросы не анализировались. Средняя продолжительность опросов не превышала 15 минут

Page 23: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 23

Общая теория ошибок (total error framework)

КОНСТРУКТ

ИЗМЕРЕНИЕ

ОТВЕТ

НАБОРДАННЫХ

ЦЕЛЕВАЯГРУППА

ОСНОВАВЫБОРКИ

СПРОЕКТИРОВАННАЯ ВЫБОРКА

РЕАЛИЗОВАННАЯ ВЫБОРКА

ВЫВОДЫ, ЗАКЛЮЧЕНИЯ,

РЕКОМЕНДАЦИИ

[Lavrakas, P.J, 2013, P. 835]

Ошибки измерения Ошибки репрезентации

Ошибки спецификации

Ошибки измерения

Ошибки регистрации

Ошибки вывода

Ошибки покрытия

Ошибки выборки

Ошибки неответов

Ошибки редактирования

Page 24: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 24

Общая теория ошибок

Наибольший потенциал к появлению систематических смещений находится на стадии ошибок неответов.При этом ошибки неответов изучены значительно хуже других типов ошибок.Величина достижимости, а порой и сам факт её наличия, игнорируются в подавляющем большинстве проводимых в России опросов.

Page 25: Репрезентативность телефонных опросов

Продолжая Грушина. Февраль 2014. 25

Тимур Османов,Фонд «Общественное мнение»,[email protected]

Спасибо за внимание!