Categories

关于同行互审

搞科研学术的,对于大部分人来说,发论文就是必不可少的了。可是这个发论文不像平时上课交作业一样,有个老师或者至少是助教来帮你批改,特别是对于一些本身就已经是该领域的领军人物了的人,根本不存在比他们“更高层次”的人来做这种审核。这是一个没法避免的事实,所以学术界几乎都采用同行互审的方式。

其实学术界似乎远没有想象中的那么简单和纯粹,所以我在想是不是什么东西发展到这样一个规模之后必然会有一些诸如潜规则之类的东西出现?总之先不说这个,说 peer review ,其实太具体的东西我也还没有仔细了解过,不过大致的结构还是可以理解的,也就是会有一些比较有声望的人会被选作一个(比如)conference 的评委,然后投到这个会议的论文就(随机地,可能会有一些先验,比如相关研究方向等)分配给各个 reviewer 去审,中间有一些细节可能会有所不同,比如如果自己也投了这个会议的论文的话是不是就不能同时做 reviewer 了,以及 review 到最终决定的过程是否有和原作者之间的 feedback 互动等,但是整体上通常都是如此。不过通常也被划分陈两种比较大的变种,或者说,实际上是三种:

  1. author 公开,reviewer 不公开:也就是最普通的方式了,reviewer 知道自己在审谁的 paper ,但是 author 不知道被谁审了。
  2. author 不公开,reviewer 也不公开:也就是盲审,现在在很多会议上都实行这样的方式。
  3. author 公开,reviewer 也公开:全部公开,似乎不是特别常见,但是也有一些试行

我想应该第一种是以前最普遍的吧,但是后来人们发现了一个问题,就是如果你是一个很牛的人的话,你的论文或者你挂了名字的论文通常就几乎“百发百中”,一方面可能是大家看到你的名号都不得不给面子,另一方面是一看到你的名号,肯定就会以一种不同的态度(比如,一种仰慕的神色)去读你的论文,相比之下,那些名不见经传的作者通常就比较惨了。

其实这一点我自己也有体会,比如一篇论文是导师告诉你,XX 大牛写的文章,经典,去好好读一下,那么肯定就会无比仰慕地去细读,这个时候是抱着“找亮点”的心情去读的;但是另一方面如果是一篇需要 review 的文章,通常就会是另一种情况——抱着“找毛病”的心情去读。

这似乎也属于发展的趋势,因为现在搞科研学术的人也越来越多,论文的数量也急剧增长,不得不说大部分的论文都还是质量比较低劣的(accept rate 大于 50% 的会议可不多吧?),所以也只好以这样的态度来 review 。所以,有些人就提出要采取盲审的方式,让 reviewer 不知道作者是谁,就不会在 review 的过程中有 bias (或者说不同的 bias )了。其实简单地说,之前的方式是名人受益,普通人会很惨,而换成盲审之后变成了名人和普通人都很惨了……不过至少看起来有些公平了。 =.=

但是问题还是有,前面说了,peer review 本身就是一个不得已的情况,大家是同行,水平都差不多,凭什么你就能 judge 我的 work 是不是有意义呢?特别是对于大牛来说,让比自己水平低很多的人来 judge 自己的工作似乎就更说不过去了。也确实,并不是所有的 reviewer 都是有能力或者态度端正或者有时间等等的。想想,如果我是一个大牛,我做了很有意义的工作,但是三番五次投出去总是被很弱的 reviewer 看不到我 work 的深度结果给 reject 掉了,不郁闷才怪呢!如果这样的事情发生了,至少能说明两个问题:

  1. “我”的 RP 已经低到一个很危险的阈值以下了,看来该 BG 提升 RP 了。
  2. 盲审制度也是有它的问题的。

大概也正是由于这样的原因,所以有些会议迟迟不采取盲审的方式,甚至还有试行之后改回原来的审核方式的吧。不能说业界牛人的 work 总是最好的,但是把它们丢到凡界和大家一起参与“海选”似乎又是另一个极端了。

所以有人提出采用更加 open 的方式,也就是第三种,author 和 reviewer 都公开的方式,公开 reviewer 的好处我想大概是人们不会那么随意地去批评了,如果 review 得不仔细的话,也会被别人笑话的吧,而且也会更加客气一些。不过坏处似乎也是显而易见的,想想拿到一篇某“山头老大”的文章,如果是以前至少还不用担心身份暴露的话,现在是不是会觉得“如果我把这篇文章 reject 了,那以后我投的文章估计也别想中了”?当然我是很夸张地开玩笑,学术界大部分地方应该也还没有黑暗到这种地步的。

不过,不管怎么说,我觉得这种开放式的方式应该还是值得尝试的,因为学术界似乎给人一些有点过于落伍或者说封闭的氛围了。工业界不是现在 Open Source 搞得红红火火?做 research 的人虽然也有许多公布自己的 work 细节甚至源代码和数据,但是许多情况下似乎还是遮遮掩掩的,特别是在工作还没有发表之前,似乎大家也都是经历过了一些惨痛的教训,也就变得如此小心谨慎了。如果工业界封闭源代码都让人觉得有点不爽的话,学术界有时候连自己“正在做什么”这样的信息都不允许透露就更让人觉得奇怪了。

其实有人建议直接增加 conference 中论文的 accept rate ,让大部分论文都可以中,真正的 review 则留给时间和更广大的群众,真正有价值的论文自然是会经过时间过滤,这个是大家都有目共睹的。当然,增加 accept rate 会导致很多人来参加会议,有些比较难处理,相对来说只增加 poster 的命中率要稍微现实一些,不会使得太多的人去做 presentation 导致会议变得旷日持久。

其实更夸张一点,就干脆学习工业界,开源社区那样,把自己的代码放到网上公开的地方,虽然也导致了许多麻烦,从而产生了各种开源协议,而且似乎也没有能有效阻止原本发生的那些诸如剽窃之类的事情。小人总是防不胜防,但是至少开源社区整体还是很成功的一个景象,而且厉害的人物、社区的实力也就自然显示出来了,在公众的注视下,似乎小动作也会少一些。

不过这在学术界可行吗?因为学术界并不是完全和工业界等同的,做科研和写软件并不完全一样,有时候仅仅一个 idea 泄漏出去确实也会是比较严重的事情,万一被别人抢先了呢?这也反应了学术界的一个残酷的事实:没有第二。工业界我们可以百花齐放,同样功能的软件可能会有无数个(比如浏览器、编辑器之类的),而学术界,如果你的工作只是“第二好”,或者你比别人晚了一秒钟做出这个工作,那么你的工作将变得完全没有任何意义。虽然从理想上来说,真正显示你能力的工作,应该是即使你告诉别人了,别人也做不了或者不如你做得好的,可是学术界这么多科研工作者,又有几个是有这样水平的顶尖人物呢?程序员喜欢戏称自己 IT 民工或者码农什么的,做科研的似乎就是称自己在“灌水”了——有时候似乎目的不再那么单纯了,变成了为了发 paper 而发 paper ,甚至其他乱七八糟的东西,但是既然要建立在人类社会这个繁杂的基层之上,我想肯定也就没法单纯起来吧。所以那些真正的领军人物,真正一心做研究的人,才越发显得让人肃然起敬呀。

不过终究世界也是在慢慢发生着变化的,比如 arXiv.org 。究竟是好是坏,或者未来会如何,大概还是要得时间来证明吧。 🙂

7 comments to 关于同行互审

  • 制度是嘎复杂的东西啊。评审中掺和了过多的主观因素,研究也将偏离正确的道路了吧

  • 快点共产主义吧 🙂 某一天人与人之间的信息交换速度能像现在互联网这样,任两点都联通,还有极快的 Tag 和索引的话,就可以达到最终理想了…… 整个世界生产效率会达到极致。

  • @quark
    莫非你觉得现在互联网上的“互联”比人与人之间的“互联”更有效率一些?网络上的 tag 啊索引啊之类的都挺唬人的,但是我觉得到目前位置其组织性还是相当不尽人意的。而且我觉得在短时间内什么网络互联之类的都还及不上人与人之间面对面交流更有利于信息的传递和沟通。

  • @pluskid
    我的意思是目前人类的交流方式主要还是说话和书写文字。如果能直接通过“意识”互联就好了,能连到就是很好的。比如能直接和领导对话的话,许多悲剧都没有了,再比如出国找到同方向的教授也不会太麻烦……

    不过也许即使生物技术达到这种程度了,个人还是没法一下子处理很多 request 的吧,但是也许生物可以开远不止 65536 个端口出去呢,然而这样的话,两个不相同的端口会不会人格分裂呢? -,-bb

  • @quark
    这个太前沿了,等到意识能这样交流了,那必然也可以存储到某些外部设备上之类的,也可以复制、修改等等……

  • chen

    你好,我是大学生网络杂志《北斗》(www.ibeidou.net)的编辑。请问作者能否同意我们转载这篇文章?谢谢。