最近看一篇 Google 的论文：《Encode, Tag, Realize: High-Precision Text Editing》，看源码的时候发现其前期预处理的时候用了最长公共子序列（Longest Common Subsequence，LCS）算法来生成词汇表。之前只是知道这个算法，但是具体解法并不是很清楚。如果你经常刷题，可能会很熟悉了，但是我对刷题一直保持排斥态度，所以不太懂。趁这个机会来看看这个 LCS。
阅读全文
Photo by Josh Sorenson on Unsplash
阅读全文
BERT 表示 Bidirectional Encoder Representations from Transformers，是 Google 于 2018 年发布的一种语言表示模型。该模型一经发布便成为争相效仿的对象，相信大家也都多少听说过研究过了。本文主要聚焦于 BERT 的分词方法，模型实现细节解读见 BERT 是如何构建模型的。
阅读全文
文中代码见 GitHub Gist 或者使用 nbviewer 查看。
阅读全文
此文主要用于更新每年我做的 Python 开发者调查结果分析。
阅读全文
一年又一年。
阅读全文