Python技法3-2:当函数做为参数时的技巧

导读:本篇文章讲解 Python技法3-2:当函数做为参数时的技巧,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com

我们之前在《Python技法3: 匿名函数、回调函数、高阶函数》中提到,可以通过lambda表达式来为函数设置默认参数,从而修改函数的参数个数:

import math
def distance(p1, p2):
    x1, y1 = p1
    x2, y2 = p2
    return math.hypot(x2 - x1, y2 - y1)
points = [(1, 2), (3, 4), (5, 6), (7, 8)]
pt = (4, 3)
points.sort(key=lambda p: distance(p, pt))
print(points)
# [(3, 4), (1, 2), (5, 6), (7, 8)]

下面我们在深度学习项目情境中展示下该手法的应用。
我们这是一个联邦学习项目,有多个client客户端,每个client中都有机器学习模型。我们现在有一份现有的祖传代码不能改动,该祖传代码中client类的初始化函数中需要传入模型类的初始化函数和优化器类的初始化函数(注意,不是模型的对象和优化器的对象),然后在client类的构造函数中完成模型对象的初始化和优化器对象的初始化。
client类的构造函数部分如下所示如下:

class Client(FederatedTrainingDevice):
    def __init__(self, model_fn, optimizer_fn, batch_size=128, train_frac=0.8):
        self.model = model_fn().to(device)
        self.optimizer = optimizer_fn(self.model.parameters())
        ...

但是,这样的代码就会面临一个问题,modeloptimizer的初始化是需要超参数的,超参数如何传进去?这时,就可以用我们前面所说的lambda技巧来解决了:

client = Client(lambda: ConvNet(input_size=input_sz, num_classes=num_cls), lambda x : torch.optim.SGD(x, lr=0.1, momentum=0.9)

这一还有一个注意的地方,就是lambda函数是可以无参数的,故可以用于完成我们这里model_fn函数的替代。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

文章由半码博客整理,本文链接:https://www.bmabk.com/index.php/post/12523.html

(0)

相关推荐

半码博客——专业性很强的中文编程技术网站,欢迎收藏到浏览器,订阅我们!