У статистиці, зокрема у регресійному аналізі, бінарна регресія оцінює зв'язок між однією або більше незалежними змінними (або предикторами) та однією залежною змінною. Бінарну регресію використовують у моделюванні умовної ймовірності настання події
D.R. Cox (1970). Simple Regression. Analysis of Binary Data. London: Methuen, pp.33–42. ISBN 0-416-10400-2
де є , що може набувати значень (успіх) та (невдача), — вектор незалежних змінних, — фіксовані значення цього вектора у певному спостереженні. Так, умовна ймовірність описує ймовірність успіху за фіксованих значень предикторів . Водночас ймовірність невдачі автоматично можна визначити як
Бінарну регресію зазвичай розглядають як частковий випадок з єдиним результатом (). У цьому випадку значенням є бінарний результат випробування ( або ). Найпоширенішими моделями бінарної регресії є логістична регресія та
Застосування Бінарну регресію переважно використовують або для прогнозування (бінарна класифікація), або для оцінювання зв’язку між незалежними змінними та залежною змінною. У економіці бінарну регресію використовують для моделювання .
Інтерпретації Моделі бінарної регресії можна інтерпретувати або як у поєднанні з вимірювальною моделлю, або як ймовірнісні моделі, що безпосередньо описують ймовірність.
Модель з латентними змінними Інтерпретацію через латентні змінні традиційно використовують у біотестуванні, що призвело до появи , де передбачається нормальна дисперсія та певне порогове значення. Також інтерпретацію через латентні змінні використовують у теорії відгуку завдання (ТВЗ), відомій також як теорія латентних рис.
Формально, інтерпретація через латентні змінні передбачає, що залежна змінна пов’язана із вектором незалежних змінних як
де та , є вектором параметрів, а — ймовірнісний розподіл.
Цю модель можна використовувати у багатьох економічних контекстах. Наприклад, залежною змінною може бути рішення менеджера щодо інвестування у програму, — це очікуваний чистий дисконтований грошовий потік, а — вектор змінних, які можуть впливати на цей потік. Менеджер здійснить інвестицію лише тоді, коли він очікує, що чистий дисконтований грошовий потік буде додатним.Tetsuo Yai, Seiji Iwakura, Shigeru Morichi. Multinomial probit with structured covariance for route choice behavior, Transportation Research Part B: Methodological, 31(3), June 1997, pp.195–207. ISSN 0191-2615.
Часто припускають, що випадкова похибка у рівнянні латентної змінної має нормальний розподіл. У цьому випадку умовна ймовірність успіху визначається як
де — функція розподілу ймовірностей (CDF) стандартного нормального розподілу. Це призводить до стандартної C.I. Bliss (1934). The Method of Probits. Science, 79 (2037): 38–39.
Ймовірнісна модель Пряма спроба представити ймовірність у вигляді лінійної функції предиктора, або предикторів, призводить до так званої . Її суттєвим недоліком є те, що прогнозовані значення можуть виходити за межі інтервалу , що робить таку модель статистично некоректною.
Щоб уникнути цього, вводять функцію зв'язку , яка відображає інтервал [0,1] ймовірностей на всю дійсну вісь . Так, умовну ймовірність можна представити як
Найпоширенішим прикладом є логістична регресія, де функцією зв'язку є логіт (логарифмічна ймовірність):
У термінах (GLM) логіт є природним параметром для розподілу Бернуллі, як наслідок, модель стає зручною для обчислень.
Альтернативою є , де функцією зв'язку використовують кумулятивну функцію розподілу ймовірностей для нормального розподілу.
Див. також
Примітки
Література Long, J. Scott; Freese, Jeremy (2006). Regression Models for Categorical Dependent Variables Using Stata. Second Edition. Stata Press, pp. 131–136. ISBN 978-1-59718011-5. Agresti, Alan (2007). Categorical Data Analysis (2nd ed.). Wiley, pp. 68–73.