本文经AI新媒体量子位（公众号ID：qbitai）授权转载，转载请联系出处。
今天是PyTorch开发者大会第一天，PyTorch 1.3率先公布。
新的版本不仅能支持安卓iOS移动端部署，甚至还能让用户去对手Google的Colab上调用云TPU。
不方便薅Google羊毛的国内的开发者，PyTorch也被集成在了阿里云上，阿里云全家桶用户可以更方便的使用PyTorch了。
此外还有一大波新工具，涉及可解释性、加密、以及关于图像语音的诸多功能。
又兼容又有新工具，怪不得有普通铁杆粉丝感叹：自己对Facebook开源库的“忠诚度”越来越高了。
牛逼！可能是个人感觉吧，Facebook比Google在开源库方面好多了，而且各方支持也是最好的。
React对比Angular，Pytorch对比Tensorflow。这就是其中两个例子，Facebook框架上市晚，但得到了强有力的支持，不断改进，而Google的框架虽然出来得早但没啥兼容升级，最终成为弃子。
我对Facebook开源库的“忠诚度”一直在增长。
PyTorch 1.3新功能
命名张量
允许用户给张量维度命名，从而让张量更易用，这样就可以直接喊他们的名字，不用根据位置来跟踪张量维度。
# Tensor[N, C, H, W]
images = torch.randn(32, 3, 56, 56)
images.sum(dim=1)
images.select(dim=1, index=0)
升级之后，就直接能在代码里写了，这样可读性大大提高：
NCHW = [‘N’, ‘C’, ‘H’, ‘W’]
images = torch.randn(32, 3, 56, 56, names=NCHW)
images.sum('C')
images.select('C', index=0)
另外，这项功能还能自动检查API是否被正确的使用，提升了安全性，还可以直接用名字来重新排列尺寸。
量化支持
开发ML应用程序时，有效利用服务器端和设备上的计算资源非常重要。
为了支持在服务器和边缘设备上进行更有效的部署，PyTorch 1.3现在支持用eager模式进行8位模型量化。所谓量化，是指降低精度执行计算和存储的技术。
当前处于实验性的量化功能包括对后训练量化（post-training quantization）、动态量化（dynamic quantization）和量化感知训练（quantization-aware training）的支持。它分别利用了x86和ARM CPU的
FBGEMM
和
QNNPACK
最新的量化内核后端，这些后端与PyTorch集成在一起，并且现在共享一个通用API。
具体的API文档可以参阅：
https://pytorch.org/docs/master/quantization.html
Facebook提供了一个量化的实际案例供开发者参考：
https://pytorch.org/tutorials/advanced/dynamic_quantization_tutorial.html
移动端
另外，为了在边缘设备上高效的运行机器学习，PyTorch 1.3支持端到端的工作流，从Python到部署在iOS和安卓端。
当然，这个功能还是早期实验版本，针对端到端做了优化，新版本重点在：
-
大小优化，根据用户需要构建级别优化和选择性编译。
-
提升了移动CPU和GPU上的性能。
-
高级API：扩展移动原生API，覆盖常用预处理、将机器学习合并到移动应用需要的集成任务，比如计算机视觉或者NLP的任务。
移动端部署细节：
https://pytorch.org/mobile/home/
新工具
随着AI模型变得越来越复杂，开发用于模型可解释性的新方法变得越来越重要。为了满足这种需求，Facebook推出了
Captum
。
Captum可以帮助使用PyTorch的开发者了解为什么他们的模型生成某个特定输出。
Captum提供了先进的工具来理解特定神经元和层如何影响模型做出的预测。
Captum的算法包括integrated gradients、conductance、SmoothGrad、VarGrad和DeepLift。
下面的案例展示了如何在预训练的ResNet模型上应用模型可解释性算法，然后通过将每个像素的属性叠加在图像上，使其可视化。
noise_tunnel = NoiseTunnel(integrated_gradients)
attributions_ig_nt, delta = noise_tunnel.attribute(input, n_samples=10, nt_type='smoothgrad_sq', target=pred_label_idx)
_ = viz.visualize_image_attr_multiple(["original_image", "heat_map"],
["all", "positive"],
np.transpose(attributions_ig_nt.squeeze().cpu().detach().numpy(), (1,2,0)),
np.transpose(transformed_img.squeeze().cpu().detach().numpy(), (1,2,0)), cmap=default_cmap,
show_colorbar=True)
了解更多：
https://www.captum.ai/
通过基于云或机器学习即服务（MLaaS）平台的ML的实际应用提出了一系列安全和隐私挑战。
这些平台的用户可能不希望或是无法共享未加密数据，这使他们无法充分利用机器学习工具。为了应对这些挑战，机器学习社区正在探索各种成熟度不同的技术方法。这些包括同态加密（homomorphic encryption）、安全多方计算（secure multiparty computation）、可信执行环境（trusted execution environments）、设备计算（on-device computation）和差分隐私（differential privacy）。
为了更好地理解如何应用其中的某些技术，Facebook发布了
CrypTen
，这是一个新的基于社区的研究平台，用于推动隐私保护ML领域的发展。
CrypTen的更多细节：
https://ai.facebook.com/blog/crypten-a-new-research-tool-for-secure-machine-learning-with-pytorch
目前CrypTen已经在GitHub上开源：
https://github.com/facebookresearch/crypten
多模AI系统工具
如今网上的数字内容通常不是单一形式，而是由多种形式共同组成，可能包含文本、图像、音频和视频。PyTorch提供了新的工具和软件库生态系统，来处理机器学习ML系统。
Detectron2是在PyTorch中实现的目标检测库。它以增强的灵活性帮助计算机视觉研究，并改善可维护性和可伸缩性，以支持在生产中的用例。
