Modelos de respuesta binaria

class: center, middle, inverse, title-slide

.title[
# Modelos de respuesta binaria
]
.author[
### Gustavo A. García <a href="mailto:ggarci24@eafit.edu.co" class="email">ggarci24@eafit.edu.co</a> 
]
.date[
### Econometría avanzada II PhD/Maestría en Economía Universidad EAFIT
]

---

body {
text-align: justify;
}

h1{
      margin-top: -1px;
      margin-bottom: -3px;
}

.small-code pre{
  margin-bottom: -10px;
  
}

.medium-code pre{
  margin-bottom: 2px;
  
}

</style>

Link slides en formato [html](https://gusgarciacruz.github.io/EconometriaAvanzadaII/ModelosBinarios/ModelosBinarios.html)

Link slides en formato [PDF](https://gusgarciacruz.github.io/EconometriaAvanzadaII/ModelosBinarios/ModelosBinarios.pdf)

---
# En este tema

- [Motivación](#motivacion)

- [Un ejemplo de modelos binarios: elección del modo de pesca](#ejemplo)

- [Efectos marginales](#em)

- [Ejercicio aplicado en R](#r)

---
# Lecturas
- Cameron, A.C., Fotheringham, A., Trivedi, P.K. (2005). *Microeconometrics: Methods and Applications*. Cambridge University Press. Cap. 15

---
name: motivacion
# Motivación

- Los modelos de elección discreta o respuesta cualitativa son modelos que tienen como variable dependiente un indicador entre *m* alternativas mutuamente excluyentes y por lo regular no existe un orden natural de las categorias de la variable dependiente

- El caso más simple de respuesta cualitativa, es el de variable dependiente binaria, es decir, que existe que existe sólo dos resultados `$(0$` y `$1)$`. Algunos ejemplos: 

 - si un individuo está o no empleado
 - si un comprador hace una compra o no
 - si se viaje en transporte público o privado
 
- Resultados binarios son simples de modelar y su estimación usualmente es por máxima verosimilitud, ya que la distribución de los datos es necesariamente definida por el modelo Bernoulli `$\Longrightarrow$` si la probabilidad de un resultado es igual a `$p$`, entonces la probabilidad del otro resultado debe ser `$(1-p)$`

- Para aplicaciones en regresiones, la probabilidad `$p$` variará entre individuos como una función de los regresores

- Los dos modelos estándar de variable dependiente binaria son los modelos logit y probit, los cuales especifican diferentes formas funcionales para las probabilidades como una función de los regresores

---
name: ejem
# Ejemplo de un resultado binario: elección del modo de pesca

Supongamos que queremos modelar la elección de pescar desde un bote alquilado o desde un muelle. La variable dependiente es binaria con la siguiente estructura:

`$$\begin{align*}
y_{i} = 
\begin{cases}
      1 \text{ si se pesca desde un bote privado}   \\
      0 \text{ si se pesca desde un muelle}
\end{cases} 
\end{align*}$$`

Asumamos que la única variable explicativa es `$ln(relp_i)$`, donde `$relp$` es el precio de pescar en bote relativo al precio de pescar desde un muelle:

`$$ln(relp_i) = ln \left( \frac{precio_{bote,i}}{precio_{muelle,i}} \right)$$`

El precio de pescar desde el bote o el muelle varía entre individuos debido a diferentes factores, como por ejemplo, a diferencias en acceso

Se espera que la probabilidad de pescar desde un bote disminuya cuando el precio relativo aumente

---
# Ejemplo de un resultado binario: elección del modo de pesca

Para estimar esta relación, se tienen las siguientes opciones:

- **OLS**: una regresión por OLS de `$y_i$` sobre `$ln(relp_i)$`. Sin embargo, esta relación lineal ignora:

 - la forma discreta de la variable dependiente
 - no limita las probabilidades predichas entre `$0$` y `$1$`
 - el efecto de `$ln(relp_i)$` sobre la probabilidad es constante sobre toda las distribución de dicha variable

- **Logit**: `$$p_i = Pr[y_i = 1 |x_i]=\frac{exp(\beta_1 + \beta_2 x_i)}{1 + exp(\beta_1 + \beta_2 x_i)}$$`

- **Probit**: `$$p_i = Pr[y_i = 1 |x_i]=\Phi(\beta_1 + \beta_2 x_i)$$`
  donde `$\Phi$` es la FDA de la normal estándar

Estas funciones no linealies garantizan que:
 
 - `$0<p_i <1$`
 - el efecto marginal sea diferente sobre la distribución de la variable `$x_i$`:
 
 Logit: `$\frac{dp_i}{dx_i}=\frac{exp(\beta_1 + \beta_2 x_i)}{(1 + exp(\beta_1 + \beta_2 x_i))^2}\beta_2$` 
 Probit: `$\frac{dp_i}{dx_i}=\phi(\beta_1 + \beta_2 x_i)\beta_2$`

---
# Ejemplo de un resultado binario: elección del modo de pesca

<div id="tvuuwqesue" style="padding-left:0px;padding-right:0px;padding-top:10px;padding-bottom:10px;overflow-x:auto;overflow-y:auto;width:auto;height:auto;">
<style>#tvuuwqesue table {
 font-family: system-ui, 'Segoe UI', Roboto, Helvetica, Arial, sans-serif, 'Apple Color Emoji', 'Segoe UI Emoji', 'Segoe UI Symbol', 'Noto Color Emoji';
 -webkit-font-smoothing: antialiased;
 -moz-osx-font-smoothing: grayscale;
}

#tvuuwqesue thead, #tvuuwqesue tbody, #tvuuwqesue tfoot, #tvuuwqesue tr, #tvuuwqesue td, #tvuuwqesue th {
  border-style: none;
}

#tvuuwqesue p {
  margin: 0;
  padding: 0;
}

#tvuuwqesue .gt_table {
  display: table;
  border-collapse: collapse;
  line-height: normal;
  margin-left: auto;
  margin-right: auto;
  color: #333333;
  font-size: 16px;
  font-weight: normal;
  font-style: normal;
  background-color: #FFFFFF;
  width: auto;
  border-top-style: solid;
  border-top-width: 2px;
  border-top-color: #A8A8A8;
  border-right-style: none;
  border-right-width: 2px;
  border-right-color: #D3D3D3;
  border-bottom-style: solid;
  border-bottom-width: 2px;
  border-bottom-color: #A8A8A8;
  border-left-style: none;
  border-left-width: 2px;
  border-left-color: #D3D3D3;
}

#tvuuwqesue .gt_caption {
  padding-top: 4px;
  padding-bottom: 4px;
}

#tvuuwqesue .gt_title {
  color: #333333;
  font-size: 125%;
  font-weight: initial;
  padding-top: 4px;
  padding-bottom: 4px;
  padding-left: 5px;
  padding-right: 5px;
  border-bottom-color: #FFFFFF;
  border-bottom-width: 0;
}

#tvuuwqesue .gt_subtitle {
  color: #333333;
  font-size: 85%;
  font-weight: initial;
  padding-top: 3px;
  padding-bottom: 5px;
  padding-left: 5px;
  padding-right: 5px;
  border-top-color: #FFFFFF;
  border-top-width: 0;
}

#tvuuwqesue .gt_heading {
  background-color: #FFFFFF;
  text-align: center;
  border-bottom-color: #FFFFFF;
  border-left-style: none;
  border-left-width: 1px;
  border-left-color: #D3D3D3;
  border-right-style: none;
  border-right-width: 1px;
  border-right-color: #D3D3D3;
}

#tvuuwqesue .gt_bottom_border {
  border-bottom-style: solid;
  border-bottom-width: 2px;
  border-bottom-color: #D3D3D3;
}

#tvuuwqesue .gt_col_headings {
  border-top-style: solid;
  border-top-width: 2px;
  border-top-color: #D3D3D3;
  border-bottom-style: solid;
  border-bottom-width: 2px;
  border-bottom-color: #D3D3D3;
  border-left-style: none;
  border-left-width: 1px;
  border-left-color: #D3D3D3;
  border-right-style: none;
  border-right-width: 1px;
  border-right-color: #D3D3D3;
}

#tvuuwqesue .gt_col_heading {
  color: #333333;
  background-color: #FFFFFF;
  font-size: 100%;
  font-weight: normal;
  text-transform: inherit;
  border-left-style: none;
  border-left-width: 1px;
  border-left-color: #D3D3D3;
  border-right-style: none;
  border-right-width: 1px;
  border-right-color: #D3D3D3;
  vertical-align: bottom;
  padding-top: 5px;
  padding-bottom: 6px;
  padding-left: 5px;
  padding-right: 5px;
  overflow-x: hidden;
}

#tvuuwqesue .gt_column_spanner_outer {
  color: #333333;
  background-color: #FFFFFF;
  font-size: 100%;
  font-weight: normal;
  text-transform: inherit;
  padding-top: 0;
  padding-bottom: 0;
  padding-left: 4px;
  padding-right: 4px;
}

#tvuuwqesue .gt_column_spanner_outer:first-child {
  padding-left: 0;
}

#tvuuwqesue .gt_column_spanner_outer:last-child {
  padding-right: 0;
}

#tvuuwqesue .gt_column_spanner {
  border-bottom-style: solid;
  border-bottom-width: 2px;
  border-bottom-color: #D3D3D3;
  vertical-align: bottom;
  padding-top: 5px;
  padding-bottom: 5px;
  overflow-x: hidden;
  display: inline-block;
  width: 100%;
}

#tvuuwqesue .gt_spanner_row {
  border-bottom-style: hidden;
}

#tvuuwqesue .gt_group_heading {
  padding-top: 8px;
  padding-bottom: 8px;
  padding-left: 5px;
  padding-right: 5px;
  color: #333333;
  background-color: #FFFFFF;
  font-size: 100%;
  font-weight: initial;
  text-transform: inherit;
  border-top-style: solid;
  border-top-width: 2px;
  border-top-color: #D3D3D3;
  border-bottom-style: solid;
  border-bottom-width: 2px;
  border-bottom-color: #D3D3D3;
  border-left-style: none;
  border-left-width: 1px;
  border-left-color: #D3D3D3;
  border-right-style: none;
  border-right-width: 1px;
  border-right-color: #D3D3D3;
  vertical-align: middle;
  text-align: left;
}

#tvuuwqesue .gt_empty_group_heading {
  padding: 0.5px;
  color: #333333;
  background-color: #FFFFFF;
  font-size: 100%;
  font-weight: initial;
  border-top-style: solid;
  border-top-width: 2px;
  border-top-color: #D3D3D3;
  border-bottom-style: solid;
  border-bottom-width: 2px;
  border-bottom-color: #D3D3D3;
  vertical-align: middle;
}

#tvuuwqesue .gt_from_md > :first-child {
  margin-top: 0;
}

#tvuuwqesue .gt_from_md > :last-child {
  margin-bottom: 0;
}

#tvuuwqesue .gt_row {
  padding-top: 8px;
  padding-bottom: 8px;
  padding-left: 5px;
  padding-right: 5px;
  margin: 10px;
  border-top-style: solid;
  border-top-width: 1px;
  border-top-color: #D3D3D3;
  border-left-style: none;
  border-left-width: 1px;
  border-left-color: #D3D3D3;
  border-right-style: none;
  border-right-width: 1px;
  border-right-color: #D3D3D3;
  vertical-align: middle;
  overflow-x: hidden;
}

#tvuuwqesue .gt_stub {
  color: #333333;
  background-color: #FFFFFF;
  font-size: 100%;
  font-weight: initial;
  text-transform: inherit;
  border-right-style: solid;
  border-right-width: 2px;
  border-right-color: #D3D3D3;
  padding-left: 5px;
  padding-right: 5px;
}

#tvuuwqesue .gt_stub_row_group {
  color: #333333;
  background-color: #FFFFFF;
  font-size: 100%;
  font-weight: initial;
  text-transform: inherit;
  border-right-style: solid;
  border-right-width: 2px;
  border-right-color: #D3D3D3;
  padding-left: 5px;
  padding-right: 5px;
  vertical-align: top;
}

#tvuuwqesue .gt_row_group_first td {
  border-top-width: 2px;
}

#tvuuwqesue .gt_row_group_first th {
  border-top-width: 2px;
}

#tvuuwqesue .gt_summary_row {
  color: #333333;
  background-color: #FFFFFF;
  text-transform: inherit;
  padding-top: 8px;
  padding-bottom: 8px;
  padding-left: 5px;
  padding-right: 5px;
}

#tvuuwqesue .gt_first_summary_row {
  border-top-style: solid;
  border-top-color: #D3D3D3;
}

#tvuuwqesue .gt_first_summary_row.thick {
  border-top-width: 2px;
}

#tvuuwqesue .gt_last_summary_row {
  padding-top: 8px;
  padding-bottom: 8px;
  padding-left: 5px;
  padding-right: 5px;
  border-bottom-style: solid;
  border-bottom-width: 2px;
  border-bottom-color: #D3D3D3;
}

#tvuuwqesue .gt_grand_summary_row {
  color: #333333;
  background-color: #FFFFFF;
  text-transform: inherit;
  padding-top: 8px;
  padding-bottom: 8px;
  padding-left: 5px;
  padding-right: 5px;
}

#tvuuwqesue .gt_first_grand_summary_row {
  padding-top: 8px;
  padding-bottom: 8px;
  padding-left: 5px;
  padding-right: 5px;
  border-top-style: double;
  border-top-width: 6px;
  border-top-color: #D3D3D3;
}

#tvuuwqesue .gt_last_grand_summary_row_top {
  padding-top: 8px;
  padding-bottom: 8px;
  padding-left: 5px;
  padding-right: 5px;
  border-bottom-style: double;
  border-bottom-width: 6px;
  border-bottom-color: #D3D3D3;
}

#tvuuwqesue .gt_striped {
  background-color: rgba(128, 128, 128, 0.05);
}

#tvuuwqesue .gt_table_body {
  border-top-style: solid;
  border-top-width: 2px;
  border-top-color: #D3D3D3;
  border-bottom-style: solid;
  border-bottom-width: 2px;
  border-bottom-color: #D3D3D3;
}

#tvuuwqesue .gt_footnotes {
  color: #333333;
  background-color: #FFFFFF;
  border-bottom-style: none;
  border-bottom-width: 2px;
  border-bottom-color: #D3D3D3;
  border-left-style: none;
  border-left-width: 2px;
  border-left-color: #D3D3D3;
  border-right-style: none;
  border-right-width: 2px;
  border-right-color: #D3D3D3;
}

#tvuuwqesue .gt_footnote {
  margin: 0px;
  font-size: 90%;
  padding-top: 4px;
  padding-bottom: 4px;
  padding-left: 5px;
  padding-right: 5px;
}

#tvuuwqesue .gt_sourcenotes {
  color: #333333;
  background-color: #FFFFFF;
  border-bottom-style: none;
  border-bottom-width: 2px;
  border-bottom-color: #D3D3D3;
  border-left-style: none;
  border-left-width: 2px;
  border-left-color: #D3D3D3;
  border-right-style: none;
  border-right-width: 2px;
  border-right-color: #D3D3D3;
}

#tvuuwqesue .gt_sourcenote {
  font-size: 90%;
  padding-top: 4px;
  padding-bottom: 4px;
  padding-left: 5px;
  padding-right: 5px;
}

#tvuuwqesue .gt_left {
  text-align: left;
}

#tvuuwqesue .gt_center {
  text-align: center;
}

#tvuuwqesue .gt_right {
  text-align: right;
  font-variant-numeric: tabular-nums;
}

#tvuuwqesue .gt_font_normal {
  font-weight: normal;
}

#tvuuwqesue .gt_font_bold {
  font-weight: bold;
}

#tvuuwqesue .gt_font_italic {
  font-style: italic;
}

#tvuuwqesue .gt_super {
  font-size: 65%;
}

#tvuuwqesue .gt_footnote_marks {
  font-size: 75%;
  vertical-align: 0.4em;
  position: initial;
}

#tvuuwqesue .gt_asterisk {
  font-size: 100%;
  vertical-align: 0;
}

#tvuuwqesue .gt_indent_1 {
  text-indent: 5px;
}

#tvuuwqesue .gt_indent_2 {
  text-indent: 10px;
}

#tvuuwqesue .gt_indent_3 {
  text-indent: 15px;
}

#tvuuwqesue .gt_indent_4 {
  text-indent: 20px;
}

#tvuuwqesue .gt_indent_5 {
  text-indent: 25px;
}

#tvuuwqesue .katex-display {
  display: inline-flex !important;
  margin-bottom: 0.75em !important;
}

#tvuuwqesue div.Reactable > div.rt-table > div.rt-thead > div.rt-tr.rt-tr-group-header > div.rt-th-group:after {
 height: 0px !important;
}
</style>
<table class="gt_table" data-quarto-disable-processing="false" data-quarto-bootstrap="false">
 <caption class='gt_caption'>Tabla 1. Elección del modo de pesca (1=bote; 0=muelle)</caption>
 <thead>
 <tr class="gt_col_headings">
 <th class="gt_col_heading gt_columns_bottom_border gt_left" rowspan="1" colspan="1" scope="col" id="a-"> </th>
 <th class="gt_col_heading gt_columns_bottom_border gt_center" rowspan="1" colspan="1" scope="col" id="OLS">OLS</th>
 <th class="gt_col_heading gt_columns_bottom_border gt_center" rowspan="1" colspan="1" scope="col" id="Logit">Logit</th>
 <th class="gt_col_heading gt_columns_bottom_border gt_center" rowspan="1" colspan="1" scope="col" id="Probit">Probit</th>
 </tr>
 </thead>
 <tbody class="gt_table_body">
 <tr><td headers=" " class="gt_row gt_left">ln relp</td>
<td headers="OLS" class="gt_row gt_center">-0.243***</td>
<td headers="Logit" class="gt_row gt_center">-1.823***</td>
<td headers="Probit" class="gt_row gt_center">-1.056***</td></tr>
 <tr><td headers=" " class="gt_row gt_left"></td>
<td headers="OLS" class="gt_row gt_center">(0.010)</td>
<td headers="Logit" class="gt_row gt_center">(0.145)</td>
<td headers="Probit" class="gt_row gt_center">(0.075)</td></tr>
 <tr><td headers=" " class="gt_row gt_left">Constante</td>
<td headers="OLS" class="gt_row gt_center">0.784***</td>
<td headers="Logit" class="gt_row gt_center">2.053***</td>
<td headers="Probit" class="gt_row gt_center">1.194***</td></tr>
 <tr><td headers=" " class="gt_row gt_left" style="border-bottom-width: 1px; border-bottom-style: solid; border-bottom-color: #000000;"></td>
<td headers="OLS" class="gt_row gt_center" style="border-bottom-width: 1px; border-bottom-style: solid; border-bottom-color: #000000;">(0.013)</td>
<td headers="Logit" class="gt_row gt_center" style="border-bottom-width: 1px; border-bottom-style: solid; border-bottom-color: #000000;">(0.169)</td>
<td headers="Probit" class="gt_row gt_center" style="border-bottom-width: 1px; border-bottom-style: solid; border-bottom-color: #000000;">(0.088)</td></tr>
 <tr><td headers=" " class="gt_row gt_left">Num.Obs.</td>
<td headers="OLS" class="gt_row gt_center">630</td>
<td headers="Logit" class="gt_row gt_center">630</td>
<td headers="Probit" class="gt_row gt_center">630</td></tr>
 <tr><td headers=" " class="gt_row gt_left">R2</td>
<td headers="OLS" class="gt_row gt_center">0.463</td>
<td headers="Logit" class="gt_row gt_center"></td>
<td headers="Probit" class="gt_row gt_center"></td></tr>
 <tr><td headers=" " class="gt_row gt_left">R2 Adj.</td>
<td headers="OLS" class="gt_row gt_center">0.462</td>
<td headers="Logit" class="gt_row gt_center"></td>
<td headers="Probit" class="gt_row gt_center"></td></tr>
 <tr><td headers=" " class="gt_row gt_left">Log.Lik.</td>
<td headers="OLS" class="gt_row gt_center">-195.167</td>
<td headers="Logit" class="gt_row gt_center">-206.827</td>
<td headers="Probit" class="gt_row gt_center">-204.411</td></tr>
 </tbody>
 <tfoot class="gt_sourcenotes">
 <tr>
 <td class="gt_sourcenote" style="font-size: x-small;" colspan="4">* p < 0.1, ** p < 0.05, *** p < 0.01</td>
 </tr>
 <tr>
 <td class="gt_sourcenote" style="font-size: x-small;" colspan="4">Nota: Errores estándar en paréntesis</td>
 </tr>
 </tfoot>
 
</table>
</div>

---
# Ejemplo de un resultado binario: elección del modo de pesca

---
name: em
# Efectos marginales

En términos generales el modelo de elección binaria es determinado por:

`$$\begin{align*}
y_{i} = 
\begin{cases}
      1 \text{ con probabilidad } p   \\
      0 \text{ con probabilidad } 1-p
\end{cases} 
\end{align*}$$`

`$$p_i = Pr[y_i=1|\mathbf{x}_i]=F(\mathbf{x}_{i}^{'}\boldsymbol{\beta}),$$`
donde `$F(\cdot)$` es la función de distribución que puede ser logística (logit) o normal estándar (probit)

El mayor interés en estos modelos es determinar el efecto marginal de cambios en un regresor sobre la porbabilidad condicional que `$y=1$`. Asumiendo un regresor continuo, el efecto marginal viene determinado por:

`$$\frac{\partial Pr[y_i=1|\mathbf{x}_i]}{\partial x_{ij}}=F^{'}(\mathbf{x}_{i}^{'}\boldsymbol{\beta})\beta_j,$$`
donde `$F^{'}(z) = \partial F(z)/\partial z$`

---
# Efectos marginales

Existen dos tipos de efectos marginales:

Efecto parcial en el promedio
`$$\frac{\partial Pr[y_i=1|\mathbf{x}_i]}{\partial x_{ij}}=F^{'}(\overline{\mathbf{x}}_{i}^{'}\hat{\boldsymbol{\beta}})\hat{\beta}_j$$`
Efecto parcial promedio

`$$\frac{\partial Pr[y_i=1|\mathbf{x}_i]}{\partial x_{ij}}=\left[n^{-1}\sum_{i=1}^n F^{'}(\mathbf{x}_i \hat{\boldsymbol{\beta}})\right]\hat{\beta}_j$$`
Importante: la interpretación de los efectos marginales se debe dar en término de puntos porcentuales y NO en términos de porcentajes

Por ejemplo, en la probabilidad de empleo, se encuentra un efecto marginal de la educación de 0.03, lo cual indica que un año de educación incrementa la probabilidad de estar empleado en 3 puntos porcentuales

---
name: r
# Ejercicio aplicado en R
<spam style="font-size:110%">

En este ejercicio se va a utilizar la base de datos *fishing* de Cameron y Trivedi (2005), sobre el modo de pesca

Archivos a descargar:

- [Descripción de los datos](https://cran.r-project.org/web/packages/camerondata/camerondata.pdf)
- [Código](https://gusgarciacruz.github.io/EconometriaAvanzadaII/ModelosBinarios/L6.R)