Tag:deep-learning

All the articles with the tag "deep-learning".

• L2 regularization 和 weight decay

  Posted on:November 5, 2021 |  at 12:00 AM

  L2 reg 和 weight decay 的区别和联系

• AutoDiff 介绍以及简单的代码实现

  Posted on:November 10, 2021 |  at 12:00 AM

  从数学和实现的角度解释 AutoDiff 的原理，给出一个简单的代码实现

• 如何在 OneFlow 中开发一个新的 UserOp

  Posted on:November 18, 2021 |  at 12:00 AM

  记录在 oneflow 中开发 userOp 的流程以及中间遇到的一些问题

• VSCode 配置最舒适的深度学习开发环境

  Posted on:February 19, 2022 |  at 12:00 AM

  记录配置和使用 VSCode 的流程，演示一些深度学习中 debug 的例子

• 如何 Debug PyTorch 和 TensorRT FP16 diff

  Posted on:February 28, 2023 |  at 12:00 AM

  记录一次找 TensorRT FP16 和 PyTorch 推理结果不一致的经历

• 如何做 continued pre-train

  Posted on:July 4, 2023 |  at 12:00 AM

  介绍一下 continued pre-train

• Triton Tutorial #0

  Posted on:September 2, 2023 |  at 12:00 AM

  first blogpost of triton tutorial series, triton introduction, installation and vector-add example

• Triton Tutorial #1

  Posted on:September 5, 2023 |  at 12:00 AM

  second blogpost of triton tutorial series, fused softmax, debug and benchmarking it.

• Triton Tutorial #2

  Posted on:September 20, 2023 |  at 12:00 AM

  third blogpost of triton tutorial series, gemm and autotune.