先从我目前状况说起的。大牛说：07以前的B公司，那时候人少，新人容易脱颖而出， 基本上的情况是，不怕没有事情做，就怕事情搞不定，不怕没有机会表现，就怕能力不够表现不了， 实践是最好的学习。

然后大牛说了他3个成长经历：

1. 在著名的M公司；独立做了某算法，而且成功release。算法本身不难，主要花的时间也就1个月。但是是第一次从头到尾自己一个人把一个产品的核心功能给做出来。 这一次的收获主要是信心，知道自己是可以做事情的。但很快就碰了壁

2. 被B公司挖去了。大意：大牛说，自信心膨胀，然后开始做项目的时候，没有规划，没有明确的应用思路，没有从别人的角度来考虑问题，于是，3个月，在执著的解决不可能解决的问题。 3个月后，醒悟了。从此明白了做项目的原则：
简单的说，就两个点。

3. 做某个team的leader：期间的收获主要有两点：
 1. 发现了自身的一大问题，就是太凭借自己的兴趣做事。所以会虎头蛇尾
 2. 在此之前，我觉得带人方面，给宏观的指导就够了，所以忽视了很多“点”上的把握

加黑那段很受用，虽然目前还不能很好的消化。
嗯，要多多努力，向大牛看齐！

 太威武了

转载过来

这些做research的神啊

Click to access gestalt.pdf

啥idea都能想到

Quote

本年度CVPR最有趣的文章
在今年的CVPR，见到了很多朋友，也看到很多Paper。

在这次会议里面让我最喜欢的一篇Paper，却不是在会议中正式发表的，而是在TC Panel派发的。这篇Paper的题目叫Paper Gestalt。文章以诙谐的笔调描述了一个基于vision + learning的自动paper review算法。

参加会议的朋友们可以很幸运的在会场获取这篇文章，至于没有来的朋友，我想只能向作者（这位兄弟（也许是姐妹）在paper中自称Carven von Bearnensquash, bearensquash@live.com）索要了。

这篇论文出炉的背景，就是最近几年CVPR或者ICCV的submission呈现急速的指数增长的趋势（在过去10年翻了三倍）。按照这个速度增长，在 10年后每次会议的投稿量就会超过5000篇！也许最好的办法是采用“货币杠杆”进行“宏观调控”——就是对投稿者收费。比如，对每个 submission征收100美元的费用，我相信对于投稿的数量和质量都会取得立竿见影的效果。一方面，很多纯粹是来碰运气的作者会掂量一下花100块 钱来博取1%的命中机会是不是值得；而持认真态度的作者则会对paper精益求精，免得投稿费白白浪费；而最终文章被录用的作者就可以减免注册费，会议方 面也有更多的funding来给有志于为Computer Vision奋斗的学术青年发放参加会议的路费。一举四得，何乐不为，呵呵。

当然了，涉及到钱的问题，自然要经历很多微妙的利益博弈——这些事情还是让Chair们去担心好了。这里，我们还是继续“奇文共欣赏”吧。文章的算法很简 单（前提是你对Machine Learning或者Computer Vision有一点了解），把8页的pdf文档并排成一张长的image，然后就在上面抽feature。做自然语言处理的朋友们请不要激动，这是 Vision的paper，自然用的是Vision圈子自己的方法。好了，抽什么feature呢？主要是HOG(Histogram of Gradients)，这是一种纯粹用于描述视觉观感的feature。显然，大段的文本，曲线图，图像，表格，数学公式，它们的feature应该是不 太一样的。然后作者用AdaBoost做feature selection训练得到一个分类器：纯粹根据paper的视觉观感来判断paper的好坏。

说到训练分类器，自然需要一个训练集。这篇文章的作者收集了CVPR 2008, ICCV 2009和CVPR 2009的全部1196篇paper构成正样本。那么负样本从何而来呢？被拒的paper显然作者是拿不到的。于是他很聪明的利用了一个众所周知但是大家 却不会公开明言的事实：workshop接纳的很多是在主要会议被拒收的paper。这样，很不幸的，workshop上发表的文章被用作负样本。在 Workshop上发表了论文的同志们不要打我——我只是讲述一篇别人的文章，这个主意不是我出的。

最有趣的部分要数实验结果了。从ROC曲线来看，结果其实还是不错的——以拒绝15%的正样本为代价，可以滤除一半的负样本。作者对于正负样本的特征做了 一些总结，也许对于大家以后投paper还是有点指导意义呢。。。

正样本的“视觉”特点：
1. 里面有几段公式，看上去文章显得似乎很专业，也显得作者似乎数学不错；
2. 实验部分里面多少要有几个曲线图，即使那几个曲线图说明不了什么。但是，只要有几个曲线图在那里，起码表示我做的是“科学实验”；
3. 最好在文章开头或者最后一页排列一堆图像。其实，我也注意到很多作者喜欢排列很多dataset里面的图像到paper上——即使那是一个 publically available的standard dataset——我不知道这样做的意义何在——除了审美效果。
4. 最好写满8页，代表分量足够。

负样本的特点：
1. 不够页数。在submission阶段，写不满6页的文章被录用的机会很小。虽然最后很多本来8页的文章还是能很神奇地被压缩到6页，如果作者想省掉 200美元的附加页费。题外话，我也一直不明白为什么多一页要多交100美元注册费。
2. 有很大的数字表，就是m行n列，排满数字那种。这篇文章表明，排列了很多曲线图和柱状图的文章比排列了很多数字表的文章有更大概率被接收。
3. 没有漂亮插图。

这篇文章的结果，我也做一些补充评论。
1. CVPR和ICCV的录用结果，对于文章的视觉观感，有着显著的统计相关。从我自己做Reviewer的经验，以及和其它reviewer的交谈来说，这 个确实在一定程度上影响了reviewer的第一印象，甚至是评价基调。一篇文章在first glance给人以专业和有内涵的感觉，会有利于它在reviewer心中树立良好印象。这与学术无关，但是，很不幸，却是一个普遍存在的事实。

对于NIPS这种理论取向的会议，虽然不需要那么多漂亮的图表，但是，文章要“长得”像这些会议的文章。让人觉得写文章的是一个有经验的研究者，而不是一 个打酱油的。

2. Workshop的文章和CVPR/ICCV主会似乎存在明显差距，以至于一个如此简单的分类器都能够在区分它们的任务中取得不俗的成绩。另外，作者使用 workshop paper作为负样本的做法虽然是个人选择，但是，起码在一定程度上反映了这个community对于workshop的态度。

3. 近年来CV paper的投稿量的高速增长，已经严重影响了review的质量。一方面，会议不得不邀请许多没有很多经验的学生参与到review的过程，即使文章是 发到senior researcher的手中，最终还是会被传递到他的某个刚入行的学生那里作为学习reviewing的“牺牲品”。我甚至听说过有reviewer为了 应付due date，把文章交给秘书或者亲戚来审，其结果可想而知了。另外，reviewer也没有足够的时间来仔细的审读paper。很多情况下，读完 abstract和intro，大概翻翻实验结果以及文章的插图，已经基本形成对文章的定性。如果reviewer喜欢这篇paper，它会根据作者的 claim对文章表示赞赏；如果不喜欢这篇文章，就会找一些似是而非的理由把文章拒掉。

当然了，最后我们还有rebuttal，然后由AC meeting来确定文章的生死。Area Chair大多是成名学者，个人的学术水平还是由一定保证的。但是，他们非常繁忙，AC meeting虽然目的是给每篇文章一个decision，但是在一些AC的心目里，这主要是一个旅游和social的机会。大部分的final decision就是根据review结果照本宣科（一个不成文的规矩是review rating的中位数是2作为录取划线标准）。另外，AC大概会看看abstract和rebuttal，然后酌情裁量。

nlp方面吧，其实感觉学到一定程度，感觉什么都是一样的了。很多任务没啥区别，无非就是分类，聚类，相似性，标注，等等基础工作。只不过在不同的应用场景下可能要赋予不同的应用策略。看了很多paper也是如此，来个假设，嗯，这个假设好，idea牛，然后做做实验。我不否认实验的有效性，可能很多时候，实验的选取太单一了，不具有广泛性。

有的时候想，做nlp的话，如果大家都慢慢熟悉了，或者基本上理解做nlp的一些套路，这个方向一方面会得到快速的工业化进展，另一方面可能那时候，是个做互联网的，都会去较好的处理nl相关问题。那么现阶段应该做些啥呢？

以前，我的潜意识是这样的，如果做一个东西，处理一个问题，总希望有个漂亮的解决方案，一气呵成。可能是真实世界的太混乱，还是根本就没有啥完美或者接近完美的算法。真正应用起来的时候，可能需要很多heuristic的rule来搞定。在之前我还是蛮不喜欢这些方案的，现在还是，不过这些方法的效果某些程度上还是不错的。

简单说说几个例子。
我做了个挖掘新词的方案。最初得到一个新词候选集set，准确率大概是80%+，另外有不到20%是短语，半截词等等。这个时候你要想办法将20%的这些垃圾词去掉。详细可以搜索下nlp@newsmth. 这个时候，也有假设，也有理论，听起来真的是那么回事，如果在某个数据集上效果也不错的话，包装一下，一篇paper就这么出来了。可是实际的情况不是这样。用熵的方法，效果是一塌糊涂。反而不如我自己根据一些简单的统计特征筛选一下。后来我又发现，其实很多2 3 个字的候选词几乎就是正确的。由于我完美心理作怪，我是不大乐意把这些短的候选词先抽出来，然后在剩下的候选词中进行筛选的，一直希望在某种程度上找到一个通杀的最优解。关于这种串行的解决方案的效果，我在上一次也感受到其威力，也就是在对query进行切分的时候，不同长度的query，应该选择不同的切分策略。

我不喜欢把一个大问题拆分成很多细节去处理。总是以为会存在个较好的方法可以很好的来把握这个问题，而后，可以靠一些rule或者其它办法来在一定程度上弥补这个大框架的不足。而不是一上来就把问题拆分成很多小部分，我总是不停的想，这样拆分有意义吗。
呃，这个应该是并行。

说说第二个例子，
怎么来判断一个句子是问句。我没做过QA。由于需要，我想把query log中的QA性质的query尽量删除。感受了下，其实基于找疑问词的方法或者“？”，在加上一些阀值来过滤效果感觉是很不错的。
如果是换到research的角度，就是个分类问题。那么就要做feature selection，其实上面的那些疑问词就作为了这里面的features。有的时候，用这样的features显示不出来自己水平的牛逼，所以，多整些features，但是具体那些features能带来决定性的作用，一般paper里面应该不会有说。paper总是为了作者的idea、假设服务的。

感悟下，看到很多人经常问各种各样的问题，追求各种各样的model，但是很少见人说说这些问题，这些model有啥本质的理解。