怀疑是Hadoop 0.20.2 INodeFile的一个Bug

fbug

在Hadoop中INodeFile表示HDFS中的普通文件。INodeFile的有一个值得注意的方法是getPenultimateBlock，此方法会返回INodeFile.blocks列表中下标为1的块对象，如果blocks长度为0或1，则返回null。此方法会被FSNamesystem.checkFileProgress方法调用。checkFileProgress方法检查是否存在文件的某一组成块的副本数小于最小副本数（由dfs.replication.min定义，默认为1）。如果不要求checkFileProgress检查文件的每一个块，则只检查INodeFile.blocks列表中下标为1的块，也就是getPenultimateBlock返回的块。

从FSNamesystem.checkFileProgress的实现可知，如果要求检查每个块的副本数，某一块副本不达标就返回false，这是很容易理解的。如果不要求检查文件的每个块，而且文件只有一个块或没有块，则checkFileProgress会返回true，表示文件副本已完成，如果文件有两个或以上的块，则只检查第二个块，为什么只检查第二个块，而且当文件只有一个块或没有块时会返回true呢？在思考这个问题之前，先看看有哪些方法会调用checkFileProgress方法：

completeFileInternal调用checkFileProgress方法时，会要求检查所有块，而getAdditionalBlock调用checkFileProgress时，只会检查倒数第二个块。也就是说仅当添加一个新块时，才会要求检查第二个块。如果文件没有块，则很可能是文件第一次申请块，此时返回true是恰当的。当文件只有一个块，如果此块由DFSClient刚刚写完，副本数正常，那么返回true也是恰当的。如果此块由DFSClient刚刚写完，副本数不正常，那么此时可以再申请块吗？

当DFSClient已经写满一块时，就会沿如下方法调用申请新块：

当方法调用到getAdditionalBlock时，即可返回，在这个过程中构造了一个新的Block对象，给这个Block对象分配Block ID和Generation Stamp，然后由这个Block对象和文件的INode对象的副本数构造一个BlockInfo对象，以BlockInfo对象作为键和值，插入到BlocksMap.map中。这个BlockInfo对象的Block ID、Generation Stamp和inode存在，numBytes为0，triplets为空。这个BlockInfo对象也会通过调用INodeFile.addBlock的方式加入到文件的块列表。所以，当客户端要求添加一个新块时，仅仅构造了一个Block对象，在INodeFile.blocks和BlocksMap.map上作了一个记录。而并不表示这个块真正存在。DataNode有如下两种方式通知NameNode其上的块数据状态：

1、默认情况下，DataNode会每隔60分钟向NameNode发送一次Block Report，NameNode会根据DataNode的块报告内容，决定块是否存在，应该添加、删除或使块无效；

2、每当DFSClient向DataNode发送完一个块后（Packet.lastPacketInBlock），就会调用datanode.notifyNamenodeReceivedBlock方法将新块添加到DataNode.receivedBlockList。DataNode线程会不停运行，每次运行都会将receivedBlockList中收到的新块通过namenode.blockReceived向NameNode报告新收到的块。这种报告是瞬时的，只要DataNode收到一个新块，就会向NameNode报告。

DataNode的这种瞬时报告并不会损害整体性能。因为DataNode设置了一个heartbeat发送间隔时间，在此时间段时DataNode沉默，除非DataNode.receivedBlockList中有新块要报告。这就保证了新块报告既是瞬时的，又不会损害性能。

我们知道，如果getAdditionalBlock检测到如果第二个块没达到副本数，就会拒绝抛出异常，无法分配新块。我们又知道，刚刚成功申请的新块仅有Block ID、Generation Stamp和其所属的INodeFile。NameNode确认这个新块存在的唯一方式是通过DataNode的报告。所以这就有个问题，如果一个文件刚写完了一块，马上申请第二块，但是DataNode向NameNode的报告会有延迟，也就是说，刚写的那一块NameNode并不会马上知道，如果对刚写的那一块检测其副本数（即checkFileProgress），很可能会失败。

因此，当INodeFile.blocks中没有块、只有一块时，checkFileProgress应该返回true。当有超过2块时，只返回第2块的副本数是否小于最少副本数。如果INodeFile.blocks只有两块呢？也就是说，第二块就是刚刚添加的块，这会不会有问题呢？从代码的实现目的来看，是有这种可能的。此处对这种实现方式的建议是：如果INodeFile.blocks有两块，判断第一块的副本数是否小于最小副本数。

我们看看此处对这个问题的一个问答：