大家好，很高兴又见面了，我是"高级前端?进阶?"，由我带着大家一起关注前端前沿、深入前端底层技术，大家一起进步，也欢迎大家关注、点赞、收藏、转发，您的支持是我不断创作的动力。

什么是 JS-Torch

JS-Torch is a Deep Learning JavaScript library built from scratch, to closely follow PyTorch's syntax.

JS-Torch 是 JavaScript 中的 PyTorch。JS-Torch 是一个从头开始构建的深度学习 JavaScript 库，严格遵循 PyTorch 的语法。包含一个功能齐全的张量对象，可以跟踪梯度(Gradient)、深度学习层(Deep Learning Layers)和函数(Functions)以及自动微分引擎(Automatic Differentiation engine)。

JS-Torch 支持以下通用的张量运算：

• 支持 Add、Subtract、Multiply、Divide
• 支持 Matrix Multiply、Power、Square Root
• 支持 Exponentiate、Log、Sum、Mean、Variance
• 支持 Transpose、At、MaskedFill、Reshape

同时，JS-Torch还支持众多的深度学习层，包括：

• nn.Linear
• nn.MultiHeadSelfAttention
• nn.FullyConnected
• nn.Block
• nn.Embedding
• nn.PositionalEmbedding
• nn.ReLU
• nn.Softmax、nn.Dropout、nn.LayerNorm
• nn.CrossEntropyLoss

目前 JS-Torch 在 Github 通过 MIT 协议开源，短短几天有 0.6k 的 star、是一个值得关注的前端开源项目。

如何使用 JS-Torch

下面是简单的 JS-Torch 自动分级示例，只需要按照常规包一样通过 NPM 安装即可。

import {torch} from "js-pytorch";
// 实例化 Tensors
let x = torch.randn([8, 4, 5]);
let w = torch.randn([8, 5, 4], (requires_grad = true));
let b = torch.tensor([0.2, 0.5, 0.1, 0.0], (requires_grad = true));
// 真实计算
let out = torch.matmul(x, w);
out = torch.add(out, b);
// 计算整个图上的梯度：
out.backward();
// 从特定张量获取梯度
console.log(w.grad);
console.log(b.grad);

复杂的使用 Transformer 的 Autograd 示例可以参考文末资料，本文不再过多展开。JS-Torch的分发和开发工具通过下面步骤完成：

• 要构建分发版时可以运行 npm run build，CJS 和 ESM 模块以及 index.d.ts 将在 dist/ 文件夹中输出
• 如果要使用 ESLint 检查代码，可以运行 npm run lint
• 如果要使用 Prettier 改进代码格式可以运行 npm run prettier

更多关于 JS-Torch 的内容可以参考文末资料，本文不再过多展开。

参考资料

https://github.com/eduardoleao052/JS-Torch

https://dev.to/eduardoleao052/deep-learning-in-javascript-23od

https://twitter.com/gp_pulipaka/status/1766364818997399612

https://www.cnblogs.com/gshang/p/13970405.html