編集者による書面によるフィードバックがレビューの質に与える影響: 2つのランダム化試験
Michael L Callaham1, Robert K Knopp, E John Gallagher
1Department of Emergency Medicine, University of California, San Francisco, CA 94143-0208. mlc@medicine.ucsf.edu
JAMA
|June 1, 2002
まとめ
2つの研究で,ピアレビュー担当者に書かれたフィードバックは,その後のレビューの質を向上させなかった. この単純な教育ツールが,ピアレビュープロセスを強化するのに効果的ではないようです.
科学分野:
- 医療教育 医療教育について
- 学術出版学術出版について
- ピアレビューはピアレビューです.
背景:
- ピアレビューの質の向上は,学術出版における認識された必要性である.
- しかし,審査員のパフォーマンスを向上させるための効果的な方法は,依然としてほとんど知られていない.
- この研究では,書面によるフィードバックが,その後の審査員のパフォーマンスに与える影響を調査した.
研究 の 目的:
- ピアレビュー担当者に書面によるフィードバックを提供することで,将来のレビューの質に影響があるかどうかを判断する.
- ピアレビュー担当者のための教育ツールとして,編集者のフィードバックの有効性を評価する.
主な方法:
- アナルズ・オブ・エマージェンシー・メディシンのピアレビューによる2つの研究が行われました.
- レビュー者は,標準的なレビュー条件 (コントロール) または追加の書面によるフィードバック (介入) を受けるようにランダムに割り当てられました.
- フィードバックには,他のレビュー者のスコア付けされていないレビューと,さまざまなレベルの詳細とサポートを持つ編集者の決定書が含まれていました.
主要な成果:
- 研究1 (スコアが低いレビュー者) では,フィードバックは改善されず,レビューの質に悪影響を及ぼす傾向を示した.
- 試験2 (平均的な審査員) では,より広範で支持的なフィードバックも,審査員のパフォーマンスの改善には至らなかった.
- 182件のレビュー (第1研究) と324件のレビュー (第2研究) の編集者による品質評価 (1-5) を分析したところ,介入グループにおいて有意なポジティブな変化は見られなかった.
結論:
- 編集者からの簡単な書面によるフィードバックは,ピアレビュー担当者のパフォーマンスを向上させるのに有効な方法とは思えません.
- わずかなフィードバックも,広範なフィードバックも,いずれの研究でも,その後のレビューの質を大幅に向上させませんでした.
- ピアレビュープロセスの質を改善するために,代替戦略が必要になる可能性があります.
関連する概念動画
Feedback Inhibition
Biochemical reactions are occurring constantly in cells, converting starting substances to different products, usually with the help of enzymes that speed the reactions. Without enzymes, it would take far too long for most reactions to occur to be useful to the cell!
Feedback Loops
In most cases, excessive hormone production is prevented by negative feedback—a loop that starts with a stimulus inducing the release of a particular substance, like a hormone, to maintain a certain level before triggering a signal that results in a decrease in further release of the hormone.
Group Design
The most basic experimental design involves two groups: the experimental group and the control group. The two groups are designed to be the same except for one difference— experimental manipulation. The experimental group gets the experimental manipulation—that is, the treatment or variable being tested—and the control group does not. Since experimental manipulation is the only difference between the experimental and control groups, we can be sure that any differences between the two are due to...
Blind Procedures
Ideally, the people who observe and record the children’s behavior are unaware of who was assigned to the experimental or control group, in order to control for experimenter bias. Experimenter bias refers to the possibility that a researcher’s expectations might skew the results of the study. Remember, conducting an experiment requires a lot of planning, and the people involved in the research project have a vested interest in supporting their hypotheses. If the observers knew which child was...
Randomized Experiments
The randomization process involves assigning study participants randomly to experimental or control groups based on their probability of being equally assigned. Randomization is meant to eliminate selection bias and balance known and unknown confounding factors so that the control group is similar to the treatment group as much as possible. A computer program and a random number generator can be used to assign participants to groups in a way that minimizes bias.
Simple randomization
Simple...
Simple randomization
Simple...
Effects of feedback
Feedback in control systems plays a critical role in shaping various operational parameters, extending beyond simple error reduction to influence stability, bandwidth, gain, impedance, and sensitivity. Understanding these effects requires examining a basic feedback system characterized by defined input, output, error, and feedback signals.
Feedback significantly modifies the gain of a control system. The gain of a system without feedback is altered by a factor of one plus GH, where G represents...
Feedback significantly modifies the gain of a control system. The gain of a system without feedback is altered by a factor of one plus GH, where G represents...


