Capítulo 26 Tamanho do efeito e P-valor


26.1 Tamanho do efeito


26.1.1 O que é o tamanho do efeito?

  • Tamanho do efeito quantifica a magnitude de um efeito real da análise, expressando uma importância descritiva dos resultados.274


26.1.2 Quais são os tipos de tamanho do efeito?

  • Diferenças padronizadas entre grupos:266,274

    • Cohen’s d

    • Glass’s \(\Delta\)

    • Razão de chances (\(RC\) ou \(OR\))

    • Risco relativo ou razão de risco (\(RR\))




  • Medidas de associação:266,274

    • Coeficiente de correlação de Pearson (\(r\)), ponto-bisserial (\(r_{s}\)), Spearman (\(\rho\)), Kendall (\(\tau\)), Cramér (\(V\)) e \(\phi\).

    • Coeficiente de determinação (\(R^2\))


26.1.3 Como converter um tamanho de efeito em outro?



26.1.4 Como interpretar um tamanho do efeito?

  • Tamanhos de efeito podem ser comparadores entre diferentes estudos.266





26.2 Efeitos brutos e padronizados


26.2.1 O que é efeito bruto?


26.2.2 O que é efeito padronizado?


26.3 Efeito principal


26.3.1 O que é efeito principal?


26.4 Efeito de interação


26.4.1 O que é efeito de interação?

  • A interação - representada pelo símbolo * - é o termo estatístico empregado para representar a heterogeneidade de um determinado efeito.281

  • .280

Análise de efeito de interação (direta) entre grupos e tempo. Retas paralelas sugerem ausência de efeito de interação.

Figura 26.1: Análise de efeito de interação (direta) entre grupos e tempo. Retas paralelas sugerem ausência de efeito de interação.


Análise de efeito de interação (inversa) entre grupos e tempo. Retas paralelas sugerem ausência de efeito de interação.

Figura 26.2: Análise de efeito de interação (inversa) entre grupos e tempo. Retas paralelas sugerem ausência de efeito de interação.





26.5 Efeito de mediação


26.5.1 O que é um mediador de efeito?


26.5.2 O que é efeito de mediação?


26.5.3 O que é efeito direto?


26.5.4 O que é efeito indireto?


26.5.5 O que é efeito total?


26.6 Efeito de modificação


26.6.1 O que é um modificador de efeito?


26.6.2 O que é efeito de modificação?


26.7 P-valor


26.7.1 O que é significância estatística?

  • A expressão “significância estatística”286 ou “evidência estatística de significância” sugere apenas que um experimento merece ser repetido, uma vez que um baixo P-valor (calculado a partir dos dados, modelos e demais suposições do estudo) sugere ser improvável que os dados coletados sejam coletados no contexto de que a hipótese nula (\(H_{0}\)) assumida é verdadeira.287


26.7.2 Como justificar o nível de significância estatística de um teste?




26.7.3 O que é o P-valor?

  • P-valor é a probabilidade, assumindo-se um dado modelo estatístico, de que um efeito calculado a partir dos dados seria igual ou mais extremo do que o seu valor observado.289

  • P-valor é uma variável aleatória que possui distribuição uniforme quando a hipótese nula (\(H_{0}\)) é verdadeira.290


26.7.4 Como interpretar o P-valor?

  • P-valores abaixo de um nível de significância estatística pré-especificado representam que um experimento merece ser repetido, com a rejeição da hipótese nula (\(H_{0}\)) justificada apenas quando experimentos adicionais frequentemente reportem igualmente resultados positivos (rejeição da hipótese nula (\(H_{0}\)).268

  • P-valor resulta da coleta e análise de dados, e assim quantifica a plausibilidade dos dados observados sob a hipótese nula (\(H_{0}\)).291

  • P-valores podem indicar quantitativamente a incompatibilidade entre os dados obtidos e o modelo estatístico especificado a priori (geralmente constituído pela hipótese nula (\(H_{0}\)).289

  • P-valores menores/maiores do que o nível de significância estatístico pré-estabelecido não devem ser utilizados como única fonte de informação para tomada de decisão em ciência.289


26.7.5 O que o P-valor não é?

  • P-valor não representa a probabilidade de que a hipótese nula (\(H_{0}\)) seja verdadeira, nem a probabilidade de que os dados tenham sido produzidos pelo acaso.289

  • P-valor não mede o tamanho do efeito ou a relevância da sua observação.289

  • P-valor sozinho não provê informação suficiente sobre a evidência sobre um modelo teórico. A sua interpretação correta requer uma descrição ampla sobre o delineamento, métodos e análises estatísticas aplicados no estudo.289

  • Evidência estatística de significância não provê informação sobre a magnitude do efeito observado e não necessariamente implica que o efeito é robusto.193,290


26.7.6 Qual a origem do ‘P<0,05’?

  • A origem do P<0,05 remonta aos trabalhos de R. A. Fisher nas décadas de 1920 e 1930. Fisher introduziu o conceito de valor-P dentro de uma abordagem frequentista de inferência estatística.268

  • O P<0,05 foi sugerido por Ronald A. Fisher como um limiar prático para indicar que um resultado era “estatisticamente significativo”.268

  • Para Ronald A. Fisher, a significância estatística não era prova definitiva, mas um sinal de que o resultado merecia investigação adicional. A rejeição da hipótese nula só deveria ocorrer após repetidas observações significativas, e não com base em um único teste.268


Visualização espacial de p < 0,05 (5 quadrados aleatórios em 100).

Figura 26.3: Visualização espacial de p < 0,05 (5 quadrados aleatórios em 100).


26.7.7 Quais são os complementos ou alternativas ao P-valor?

  • Intervalos de confiança, credibilidade ou predição.289

  • Razão de verossimilhança.289

  • Métodos Bayesianos, fator Bayes.289


26.8 P-valor de 2ª geração


26.8.1 O que é o P-valor de 2ª geração?

  • O P-valor de 2ª geração (SGPV) resume a fração das hipóteses apoiadas pelos dados que também pertencem à hipótese nula intervalar (intervalo de equivalência previamente especificado). Quantifica quanto do intervalo de estimativa (p.ex., IC95%) recai dentro da zona de indiferença científica/clinicamente irrelevante.292

  • Essa abordagem exige declarar a hipótese nula como intervalo (e não um ponto), incorporando o que é considerado “efeito sem relevância prática” segundo o contexto científico (precisão de medida, relevância clínica etc.).292


26.8.2 Como definir a hipótese nula intervalar e \(\delta\)?

  • Especifique \(H_0\) como um intervalo de equivalência \([H_0^{-}, H_0^{+}]\) que contém efeitos considerados praticamente nulos. Defina \(\delta\) como a meia-largura do intervalo de equivalência (\(\delta = (H_0^{+} - H_0^{-})/2\)).292

  • A escolha deve ser a priori e justificada por critérios científicos (p.ex., MCID, precisão de medida).292


26.8.3 Como calcular o SGPV?

  • Seja \(I=[a,b]\) o intervalo apoiado pelos dados (p.ex., IC 95%) e \(H_0\) o intervalo nulo. O SGPV é (26.1), onde \(|I|\) é a largura do intervalo de estimativa, \(|H_0|\) é a largura do intervalo nulo e \(|I \cap H_0|\) é a largura da sobreposição entre os dois intervalos. O SGPV é restrito ao intervalo \([0,1]\).292

\[\begin{equation} \tag{26.1} p_{\delta} = \frac{|\,I \cap H_0\,|}{|\,I\,|} \times \max\!\left\{ \frac{|\,I\,|}{2|\,H_0\,|}, \, 1 \right\} \end{equation}\]


  • Quando \(|I|<2|H_0|\), \(p_{\delta}\) é apenas a fração de sobreposição \(|I\cap H_0|/|I|\).292

  • Quando \(|I|>2|H_0|\), o SGPV reduz-se a \(\tfrac{1}{2}\times \dfrac{|,I\cap H_0,|}{|,H_0,|}\le \tfrac{1}{2}\), sinalizando inconclusão por imprecisão.292


Tabela 26.1: Comparação entre p-valor (bicaudal, inferido do IC 95%) e SGPV (\(p_{\delta}\)) nos cenários simulados.
Cenário \(a\) \(b\) \(H_0^{-}\) \(H_0^{+}\) \(\hat\theta\) \(SE\) p-valor (bicaudal) \(p_{\delta}\) Conclusão (SGPV)
1 0.350 0.550 -0.100 0.100 0.450 0.0510 <0,001 0.000 Apoia alternativas (SGPV=0)
2 -0.050 0.080 -0.100 0.100 0.015 0.0332 0.651 1.000 Equivalência (SGPV=1)
3 -0.500 0.700 -0.100 0.100 0.100 0.3061 0.744 0.500 Inconclusivo (0<pδ<1) < td> </pδ<1)>
4 0.050 0.250 -0.100 0.100 0.150 0.0510 0.003 0.250 Inconclusivo (0<pδ<1) < td> </pδ<1)>
5 -0.250 -0.050 -0.100 0.100 -0.150 0.0510 0.003 0.250 Inconclusivo (0<pδ<1) < td> </pδ<1)>
6 0.150 0.550 -0.100 0.100 0.350 0.1020 0.001 0.000 Apoia alternativas (SGPV=0)
7 -0.550 -0.150 -0.100 0.100 -0.350 0.1020 0.001 0.000 Apoia alternativas (SGPV=0)


26.8.4 Como interpretar o SGPV?

  • \(p_{\delta}=0\): dados apoiam apenas hipóteses alternativas relevantes (IC totalmente fora da equivalência).292

  • \(p_{\delta}=1\): dados apoiam apenas hipóteses nulas (equivalentes) (IC totalmente dentro da equivalência).292 \(0<p_{\delta}<1\): inconclusivo; o valor expressa o grau de inconclusão. Em particular, \(p_{\delta}=\tfrac{1}{2}\) indica inconclusão estrita.292

  • O SGPV é descritivo (não é probabilidade posterior de \(H_0\)).292


26.8.5 Relação com testes de equivalência (TOST)

  • Tanto SGPV quanto TOST comparam o IC com os limites de equivalência. Se o IC \((1-2\alpha)\) (p.ex., 90% quando \(\alpha=0{,}05\)) cai inteiro dentro dos limites, TOST conclui equivalência — situação análoga a \(p_{\delta}=1\).293

  • Com ICs simétricos, há pontos de ancoragem em que as estatísticas coincidem: quando \(p_{\text{TOST}}=0{,}5\), então \(\mathrm{SGPV}=0{,}5\); quando o IC toca o limite mas fica inteiramente dentro (fronteira), \(p_{\text{TOST}}=0{,}025\) e \(\mathrm{SGPV}=1\); quando o IC fica inteiramente fora tocando o limite, \(p_{\text{TOST}}=0{,}975\) e \(\mathrm{SGPV}=0\).293

  • Em ICs assimétricos ou quando \(|I|>2|H_0|\), o SGPV fica difícil de interpretar quando \(0<p_{\delta}<1\); nesses cenários, o TOST costuma diferenciar melhor os resultados.293


26.8.6 Propriedades frequenciais e múltiplas comparações

  • Usando ICs \(100(1-\alpha)%\), sob qualquer hipótese em \(H_0\), \(\Pr(p_{\delta}=0)\le \alpha\) e \(\to 0\) com o aumento de \(n\); fora de \(H_0\), \(\Pr(p_{\delta}=0)\to 1\) quando \(n\) cresce.292

  • O SGPV mitiga naturalmente inflação de erro Tipo I em muitas comparações e prioriza relevância científica (não requer ajustes ad hoc).292


26.9 Boas práticas

  • Defina \(H_0\) intervalar e \(\delta\) a priori com justificativa científica.292,293

  • Reporte: estimativa pontual, IC, limites de equivalência e \(p_{\delta}\); interprete \(p_{\delta}\in{0,1}\) de forma dicotômica e \(0<p_{\delta}<1\) como inconclusivo; quando necessário, complemente com TOST.292,293



Citar como:
Ferreira, Arthur de Sá. Ciência com R: Perguntas e respostas para pesquisadores e analistas de dados. Rio de Janeiro: 1a edição,


Referências

193.
Landis SC, Amara SG, Asadullah K, et al. A call for transparent reporting to optimize the predictive value of preclinical research. Nature. 2012;490(7419):187–191. doi:10.1038/nature11556
266.
Sullivan GM, Feinn R. Using Effect Sizeor Why the P Value Is Not Enough. Journal of Graduate Medical Education. 2012;4(3):279–282. doi:10.4300/jgme-d-12-00156.1
268.
Goodman SN. Aligning statistical and scientific reasoning. Science. 2016;352(6290):1180–1181. doi:10.1126/science.aaf5406
274.
Kim HY. Statistical notes for clinical researchers: effect size. Restorative Dentistry & Endodontics. 2015;40(4):328. doi:10.5395/rde.2015.40.4.328
275.
Aragon TJ. epitools: Epidemiology Tools. 2020. doi:10.32614/CRAN.package.epitools
276.
Ben-Shachar MS, Lüdecke D, Makowski D. effectsize: Estimation of Effect Size Indices and Standardized Parameters. Journal of Open Source Software. 2020;5:2815. doi:10.21105/joss.02815
277.
Champely S. pwr: Basic Functions for Power Analysis.; 2020. https://CRAN.R-project.org/package=pwr.
278.
GREENLAND S, SCHLESSELMAN JJ, CRIQUI MH. THE FALLACY OF EMPLOYING STANDARDIZED REGRESSION COEFFICIENTS AND CORRELATIONS AS MEASURES OF EFFECT. American Journal of Epidemiology. 1986;123(2):203–208. doi:10.1093/oxfordjournals.aje.a114229
279.
Greenland S, Maclure M, Schlesselman JJ, Poole C, Morgenstern H. Standardized Regression Coefficients. Epidemiology. 1991;2(5):387–392. doi:10.1097/00001648-199109000-00015
280.
Bours MJL. Using mediators to understand effect modification and interaction. Journal of Clinical Epidemiology. setembro 2023. doi:10.1016/j.jclinepi.2023.09.005
281.
Altman DG, Matthews JNS. Statistics Notes: Interaction 1: heterogeneity of effects. BMJ. 1996;313(7055):486–486. doi:10.1136/bmj.313.7055.486
282.
Pinheiro J, Bates D, R Core Team. nlme: Linear and Nonlinear Mixed Effects Models.; 2023. https://CRAN.R-project.org/package=nlme.
283.
Sabanes Bove D, Dedic J, Kelkhoff D, et al. mmrm: Mixed Models for Repeated Measures.; 2022. https://CRAN.R-project.org/package=mmrm.
284.
Lenth RV. emmeans: Estimated Marginal Means, aka Least-Squares Means.; 2023. https://CRAN.R-project.org/package=emmeans.
285.
Baron RM, Kenny DA. The moderatormediator variable distinction in social psychological research: Conceptual, strategic, and statistical considerations. Journal of Personality and Social Psychology. 1986;51(6):1173–1182. doi:10.1037/0022-3514.51.6.1173
286.
LATTER OH. THE EGG OF CUCULUS CANORUS: AN ENQUIRY INTO THE DIMENSIONS OF THE CUCKOO’S EGO AND THE RELATION OF THE VARIATIONS TO THE SIZE OF THE EGGS OF THE FOSTER-PARENT, WITH NOTES ON COLORATION, &c. Biometrika. 1902;1(2):164–176. doi:10.1093/biomet/1.2.164
287.
Aylmer Fisher R. The arrangement of field experiments. Ministry of Agriculture and Fisheries. 1926. doi:10.23637/ROTHAMSTED.8V61Q
288.
Lakens D, Caldwell A. Simulation-Based Power Analysis for Factorial Analysis of Variance Designs. Advances in Methods and Practices in Psychological Science. 2021;4:251524592095150. doi:10.1177/2515245920951503
289.
Wasserstein RL, Lazar NA. The ASA Statement on p-Values: Context, Process, and Purpose. The American Statistician. 2016;70(2):129–133. doi:10.1080/00031305.2016.1154108
290.
Altman N, Krzywinski M. P values and the search for significance. Nature Methods. 2017;14(1):3–4. doi:10.1038/nmeth.4120
291.
Heinze G, Dunkler D. Five myths about variable selection. Transplant International. 2016;30(1):6–10. doi:10.1111/tri.12895
292.
Blume JD, D’Agostino McGowan L, Dupont WD, Greevy RA. Second-generation p-values: Improved rigor, reproducibility, & transparency in statistical analyses. Smalheiser NR, org. PLOS ONE. 2018;13(3):e0188299. doi:10.1371/journal.pone.0188299
293.
Lakens D, Delacre M. Equivalence Testing and the Second Generation P-Value. Meta-Psychology. 2020;4. doi:10.15626/mp.2018.933