终身学习：2023¶

[Py]S-ESD: Seasonal Extreme Studentized Deviate(S-ESD) in Python.

shenxiangzhuang/pysesd是 今年写的一个TSAD领域经典算法的Python实现。

目前已经完成了基本的算法实现和测试，可以直接pip install pysesd一键启动:-)

MPPT: A Modern Python Package Template

shenxiangzhuang/mppt 是一个Python库的模板，也是一个简单的小项目，最初是为了在团队内做工程实践的分享。 项目主要介绍现代Python库的一些最佳实践，包括项目结构、文档、测试、发布等。

目前已经完成了基本的模板，后续会不断更新完善，可能会考虑加一些CLI来支持模版动态生成。

Toys: ToyData -> ToyML -> ToyDL

• ToyData: ToyData 是 ToyX 系列的第一个项目，主要是用 Python 来实现一些经典的数据结构，比如链表、树、图等。 这个项目是 2019 年为了学习数据结构和算法写的 (2023 年并未实际投入，列举用于说明 ToyX 系列项目初衷)， 在这个造轮子的过程中我发现自己对数据结构和算法的理解更加深入了。 正如 Feynman's 所言："What I cannot create, I do not understand" —— 这也是 ToyML 和 ToyDL 项目的初衷， 本质上是用于 Education 的工具。

• ToyML: ToyML 是 ToyX 系列的第二个项目，主要是用 Python 来实现一些经典的机器学习算法，比如线性回归、逻辑回归、决策树等。 目前是实现了 Clustering: DBSCAN, Hierarchical(Agnes&Diana), Kmeans; Classification: KNN; Ensemble: Boosting(AdaBoost). (2023 年也没投入，仅仅是因为强迫症，不写这里很难受)

• ToyDL: ToyDL 是 ToyX 系列的第三个项目，主要是用 Python 来实现一些经典的深度学习算法。 这个项目的核心部分是在 2023 年完成，目前还是一个简单的深度学习引擎， 只实现了最基本的前向传播和反向传播 (自动微分)。项目本身是收 mini-torch 的启发， 也是用于自身学习 DL 的工具。目前项目已经可以跑通 XOR 等简单的例子， 后续重点的方向不是让项目更加完善， 而是让项目更加简单，更加易懂，让 Torch 不再黑盒。(免杠声明：我是自己在开始学习 用 pytorch 的时候对自动微分十分迷惑，所以才学上了 mini-torch 的课，学完后发现 仍然没有理解地很透彻才开始写 ToyDL :-)

Beer: Fifty challenging problems in probability

受George E. P. Box的the Monday night beer and statistics sessions影响， 一直想记录一些概率论/统计学相关的有趣问题，让其他领域的朋友们也能感受下概率统计的魅力。 恰逢看到Fifty challenging problems in probability这本书，所以就有了这个项目。 项目本身是一个简单的概率论/统计学的问题集，目前已经写了Fifty challenging problems in probability的前六个问题的答案解析，后续会不断更新。 这里更新比较慢的原因是每道题目的工序都比较长: 翻译成中文，推导出解析解，给出(甚至多种)编程模拟求解方案。 希望后续能有更多的朋友参与进来，一起来解决这些有趣的问题。

LLM: Calvino's Invisible Cities

卡尔维诺(Italo Calvino), 一位意大利作家，他的作品《看不见的城市》是我非常喜欢的一本书。 书中描述了55个虚构的城市，项目用DALL·E 3生成了这55个城市的图片。 部分城市的生成结果大大地超出了我的预期，只能用惊艳来形容。比如下图给出的轻盈的城市之珍诺比亚。

严格来说这是我写的第一个前端项目，用的是练习时长两个月半的TypeScript/React/NextJs.

TSAD(Time Series Anomaly Detection)

时间序列异常检测是之前主要的工作方向，在 TASD/Paper部分， 记录了目前工业界(主要)和学术界的一些时间序列异常检测的论文解读， 并对一些关键算法给出落地实践时的一些思考。

目前将总体分为了四个部分: Review/Systems/Algorithms/Evaluation. 其中Review就是介绍了几篇综述论文，Evaluation主要是记录了一些评价指标和评价方法。 比较重要的是Systems和Algorithms部分， 这两部分选择的Paper大多都是出自工业界大厂(Twitter/Amazon/IBM/Miscrosoft/Salesforce等), 对落地实践具有非常大的参考意义。另外这里分为了两个部分: 一个是System部分，这部分的论文更加 偏重时序异常检测的算法体系或通用框架，另一个是Algorithms部分，这部分的论文更加偏重于算法本身的细节。 当然这两部分的论文都是有交叉的，但是这样分开有助于更好的理解和学习。

RCA(Root Cause Analysis)

根因分析(RCA/paper)是在TSAD的基础上的一个延伸， 主要是在异常检测的基础上进一步做故障的根因分析。这方面的论文没有特别繁杂， 整体的脉络相对比较清晰，但是因为问题本身的复杂性，实际落地的时候会更加困难。 工作中曾经POC过一些通用的RCA算法(大致是基于Event Stream的Frequent Pattern Mining)， 但是由于实际的数据和场景的复杂性，效果并不是很好， 感觉实际落地中还是要根据具体领域细分做专门化的处理才可以达到比较好的效果。