nni n,nniut
介绍NNI NNI(神经网络智能)是一个自动机器学习(AutoML)的工具包。它通过多种优化算法搜索最佳神经网络结构和/或超参数,支持单机、本地多机、云等不同运行环境。
https://github.com/Microsoft/nni NNI开源地址
NNI与其他自动机器学习工具的通用性比较:与现有的大多数自动机器学习服务和工具不同,NNI要求用户提供训练代码,并指定超级参数的搜索范围。这样做的好处是,NNI几乎是一个通用工具,任何训练任务都可以使用NNI进行超参数搜索。
简单易用:安装NNI只需要一个命令,只需要对代码做少量修改就可以通过NNI进行模型训练,还可以配置搜索空间、调谐器等。Web UI的界面展示也非常有助于开发者对模型训练过程的监控和分析,非常方便易用。
快速性:NNI内置超参数探索算法,可以在良好的超参数空间中进一步探索超参数组合,加快超参数组合的搜索速度,减少时间消耗。
NNI安装流程和经验当前NNI测试版只支持现阶段的Linux和MacOS,其中Ubuntu 16.04或更高版本和MacOS 10.14.1已经过测试和支持。
通过pip安装在python=3.5环境中,运行以下命令进行安装。
$ python 3-m pip install-upgrade nni通过源代码安装在python=3.5,git和wget的环境下,可以通过运行以下命令进行安装。
$ git clone-b v 0 . 5 . 1 https://github.com/Microsoft/nni.git$ cdn ni $ source install . sh只需一个pip命令就可以成功安装nni,非常简洁方便。以下是通过pip命令安装过程的屏幕截图:
接下来,下载源代码示例:
$ git clone-b v 0 . 5 . 1 https://github.com/Microsoft/nni.git以mnist为例。由于这个例子是一个建立在TensorFlow上的实验,所以在运行之前要确保它是安装了TensorFlow。
安装Tensorflow
安装Anaconda,下载地址,下载完成后,使用sudo sh *。sh命令安装(用文件名替换*号)创建新的Anaconda环境,python = 3.5。$ conda create-name test python=3 . x。
注意:test是环境名,可以定制。
切换环境:$ conda激活测试
此时,您将切换到测试环境,并且环境名称将出现在命令行之前。
安装tensorflow $ pip安装-升级-忽略-已安装的tensorflow
至此,mnist运行环境已经搭建完成。只需要一个命令就可以成功安装Nni,过程简单方便。
NNI利用过程和经验用机器学习算法建模时,超参数组合的调整总是一项非常耗时的任务。通过使用NNI自动机器学习工具包,可以节省手动调整参数的时间消耗,加速和简化超参数搜索的过程。
让我们以官方的mnist为例。首先,做好三个准备:
定义搜索空间:search_space.json
修改源代码:mnist.py
定义实验室配置
完成上述准备工作后,使用以下命令启动示例:
$ nni CTL create-config nni/examples/trials/Mn ist/config . yml
显示成功启动的实验,这意味着样品成功启动。通过提示的网址在Web UI界面查看详情:
通过数据可视化,数据将以图表和图像的形式呈现:
您可以查看单个踪迹的详细信息:
您可以通过下面的优化进度页面按时间顺序查看测量值。在本例中,测量值是精度值。从图中可以看出,越向右,测量值越高,越稳定,说明NNI的超参数勘探算法可以在一些较好的超参数范围内继续勘探。
当前模型的训练可以通过以下代码终止:
$ nnictl停止
以下代码可用于查看当前运行示例的详细信息。
$ nnictl Expert Shownni工具简洁易用,其超参数探索算法极大地方便了机器学习相关开发者对模型参数的优化。通过Web UI界面中数据的可视化展示,开发者可以更快速的分析和理解数据,实时监控模型训练过程。操作的简单性大大方便了开发者。对于刚接触AutoML工具的同学来说也非常容易,值得推荐!
建议通过使用NNI,我有以下建议:
在使用中发现,NNI只能显示一个配置性能指标,没有办法一次显示多个指标与参数的关系。没有办法很好的表达GAN网络的两个指标。
郑重声明:本文由网友发布,不代表盛行IT的观点,版权归原作者所有,仅为传播更多信息之目的,如有侵权请联系,我们将第一时间修改或删除,多谢。