Rustynum随访：新鲜见解和正在进行的发展_rust

rustynum随访：新鲜见解和正在进行的发展

大家好！

继上次介绍rustynum之后，我将分享最近几周的开发进展。rustynum是一个轻量级的numpy替代品，使用rust编写，并采用mit许可证开源发布在github上。它利用rust的simd特性，实现更快的数值计算，同时保持体积小巧（python wheel约300kb）。本文将重点介绍开发过程中的心得体会，以及新增的文档和教程。

简要回顾

如果您错过了之前的公告，rustynum的主要特性包括：

利用rust的simd指令集
高性能
rust的内存安全特性，无需gc开销
小巧的发布包大小（远小于numpy wheel）
类似numpy的接口，方便python用户迁移

更多信息请访问rustynum官网或查看我之前在dev.to发表的文章。

开发人员视角：最新进展

矩阵操作改进

我投入大量精力确保矩阵操作的便捷性。能够以最小的代码改动，实现numpy的矩阵向量乘法或矩阵矩阵乘法等操作，是一个主要目标。.dot()函数和@运算符都支持这些操作。

查看相关教程： rustynum中的高级矩阵操作

以下是一个快速示例：

import rustynum as rnp

matrix = rnp.numarray([i for i in range(16)], dtype="float32").reshape([4, 4])
vector = rnp.numarray([1, 2, 3, 4], dtype="float32")

# 使用dot函数
result_vec = matrix.dot(vector)
print("矩阵向量乘法结果：", result_vec)

登录后复制

可以看到，这与numpy的工作流程非常相似。基准测试显示，rustynum在处理小型和中等数据集时，速度通常与numpy相当，有时甚至更快。对于大型矩阵，我仍在进行优化。

常用分析任务加速

除了矩阵乘法，我还持续改进mean()、min()、max()和dot()等操作的性能。这些函数是simd加速的主要目标。此外，还有一个教程演示如何用rustynum替换特定的numpy调用，这对于解决python循环瓶颈非常有用。

示例：

import numpy as np
import rustynum as rnp

# 生成测试数据
data_np = np.random.rand(1_000_000).astype(np.float32)
data_rn = rnp.numarray(data_np.tolist(), dtype="float32")

# numpy方法
mean_np = data_np.mean()

# rustynum方法
mean_rn = data_rn.mean().item()

print("numpy均值：", mean_np)
print("rustynum均值：", mean_rn)

登录后复制

虽然python的开销有时会抵消rust的原生速度优势，但在许多情况下，rustynum仍然表现出性能优势。

新增教程：现实世界示例

为了更好地展示rustynum的优势，我添加了几个新的教程，涵盖了现实世界的编码场景：

高级矩阵操作 - 重点讲解点积、矩阵向量乘法和矩阵矩阵乘法。
替换核心numpy调用 - 演示如何将numpy的mean、min、dot替换为rustynum。
简化机器学习预处理 - 探索机器学习中的缩放、标准化和特征工程。

最后一个教程是我个人最喜欢的，它涵盖了机器学习管道中常见的预处理步骤，只需将numpy调用替换为rustynum即可。

缩放代码片段示例：

def min_max_scale(array):
    col_mins = []
    col_maxes = []
    for col_idx in range(array.shape[1]):
        col_data = array[:, col_idx]
        col_mins.append(col_data.min())
        col_maxes.append(col_data.max())

    scaled_data = []
    for col_idx in range(array.shape[1]):
        col_data = array[:, col_idx]
        numerator = col_data - col_mins[col_idx]
        denominator = col_maxes[col_idx] - col_mins[col_idx] or 1.0
        scaled_col = numerator / denominator
        scaled_data.append(scaled_col.tolist())

    return rnp.concatenate(
        [rnp.numarray(col, dtype="float32").reshape([array.shape[0], 1]) for col in scaled_data],
        axis=1
    )

登录后复制

这段代码展示了rustynum如何高效地进行行/列操作。缩放后，数据仍然可以被馈送到您喜欢的机器学习框架中。

正在进行的工作

大型矩阵优化

我注意到，对于非常大的矩阵（例如10k×10k），rustynum的当前代码路径与numpy相比，尚未完全优化。这仍然是一个活跃的开发领域。rustynum还处于早期阶段，我希望引入进一步的并行化或基于块的乘法技术，以提升大型矩阵的性能。

扩展数据类型

rustynum目前支持float32和float64，以及一些整数类型。我正在考虑添加更强大的整数支持，例如用于索引或小型转换的整数类型。同时，如果社区有需求，高级数据类型（例如复数）也可能会被加入。

文档和api增强

rustynum.com上的文档网站包含api参考和路线图，我正在持续改进。如果您发现任何缺失的内容，或者有特定用例的考虑，请随时在github上提交问题或pull request。

rustynum的主要目标

rustynum最初只是我将rust和python结合起来的学习项目。由于我每天都在从事机器学习相关工作，因此我希望rustynum能够取代我日常工作中部分numpy的例程。我们正在逐渐实现这个目标。我开始添加更多关于如何在机器学习管道中集成rustynum的教程。

快速代码示例：机器学习集成

以下是一个简短的示例，展示了rustynum如何融入数据管道：

import numpy as np
import rustynum as rnp
from sklearn.linear_model import logisticregression

# 1) 使用numpy创建合成数据
train_np = np.random.rand(1000, 10).astype(np.float32)
labels_np = np.random.randint(0, 2, size=1000)

# 2) 转换为rustynum进行快速缩放
train_rn = rnp.numarray(train_np.flatten().tolist(), dtype="float32").reshape([1000, 10])

# 基本缩放 (计算每列的最小值和最大值)
scaled_rn = []
for col_idx in range(train_rn.shape[1]):
    col_data = train_rn[:, col_idx]
    mn = col_data.min()
    mx = col_data.max()
    rng = mx - mn if (mx != mn) else 1.0
    scaled_col = (col_data - mn) / rng
    scaled_rn.append(scaled_col.tolist())

train_scaled_rn = rnp.concatenate(
    [rnp.numarray(col, dtype="float32").reshape([1000, 1]) for col in scaled_rn],
    axis=1
)

# 3) 转换回numpy用于scikit-learn
train_scaled_np = np.array(train_scaled_rn.tolist(), dtype=np.float32)

# 4) 训练逻辑回归模型
model = logisticregression()
model.fit(train_scaled_np, labels_np)

print("模型系数：", model.coef_)

登录后复制

这个脚本展示了rustynum如何以pythonic的方式处理数据转换，然后您可以将数组传递给其他库。

总结

扩展rustynum的功能，并探索rust与python集成如何实现高性能计算，是一个非常有趣的过程。最近的教程展示了rustynum如何在数据科学或机器学习任务中部分替代numpy，尤其是在处理较小或中等大小数组的任务中。