Quantum convolutional neural networks for multi-channel supervised learning

Status
Done
Tags
QCNN
图像分类
Smaldone, A.M., Kyro, G.W. & Batista, V.S. Quantum convolutional neural networks for multi-channel supervised learning. Quantum Mach. Intell. 5, 41 (2023). https://doi.org/10.1007/s42484-023-00130-3

Introduction

提出的设计,在多通道数据处理分类任务上优于其他现有的QCNN。
Simple data: MNIST:
  1. Hur T, Kim L, Park DK (2022) Quantum convolutional neural network for classical data classification. Quantum Mach Intell 4:3. https://doi.org/10.1007/s42484-021-00061-x
  1. Oh S, Choi J, Kim J (2020) A tutorial on quantum convolutional neural networks (qcnn)
Multi-channel data: CIFAR-10:
  1. Jing Y, Li X, Yang Y, Wu C, Fu W, Hu W, Li Y, Xu H (2022) Rgb image classification with quantum convolutional ansatz. Quantum Inf Process 21:101. https://doi.org/10.1007/s11128-022-03442-8
  1. Riaz F, Abdulla S, Suzuki H, Ganguly S, Deo RC, Hopkins S (2023) Accurate image multi-class classification neural network model with quantum entanglement approach. Sensors 23:2753. https://doi.org/10.3390/s23052753
文章指出,现有方法不能有效的获取通道间的信息,因为多数文献的QCNN编码方案是将R、G、B三个通道单独取出作为编码直接进行处理,没有考虑如的相互信息,而是跟经典的方案一样通过不断调整参数去优化QCNN模型。或者是直接堆加qubits数量。
当前的QCNN架构,所需的qubits数量与输入数据的通道维度的长度成正比(例如滑动窗口n*n的矩阵还有维度数量,转换成sequence),对于简单数据来说可以用这种方法进行建模。下面这篇文章实现了RGB图像三通道的数据处理任务,但受限于硬件限制,无法将该方法拓展到更多通道的数据的任务。
Jing Y, Li X, Yang Y, Wu C, Fu W, Hu W, Li Y, Xu H (2022) Rgb image classification with quantum convolutional ansatz. Quantum Inf Process 21:101. https://doi.org/10.1007/s11128-022-03442-8
为了克服这一点,最近的很多工作的方法是对每个通道单独测量,将波函数坍塌的结果存储再加以处理,如:
  1. Hong Z, Wang J, Qu X, Zhu X, Liu J, Xiao J (2021) Quantum convolutional neural network on protein distance prediction, pp 1–8. https://doi.org/10.1109/IJCNN52387.2021.9533405
  1. Oh S, Choi J, Kim J (2020) A tutorial on quantum convolutional neural networks (qcnn)
  1. Chen SY-C, Wei T-C, Zhang C, Yu H, Yoo S (2022) Quantum convolutional neural networks for high energy physics data analysis. Phys Rev Res 4:013231. https://doi.org/10.1103/PhysRevResearch.4.013231
  1. Mishra S, Tsai C-Y (2023) Qsurfnet: a hybrid quantum convolutional neural network for surface defect recognition. Quantum Inf Process 22:179. https://doi.org/10.1007/s11128-023-03930-5
虽然这种单次过的方法可以不用担心因为通道数量而堆叠qubits数量的问题,但是会造成通道间部分信息的损失,这可能会影响模型的精度。根据以上问题,文章作者提出了几种处理多通道数据的方法,这些方法保留了通道间的信息,所需要的qubits数量与输入数据的通道维度长度无关。
QCNN的传统结构:
  1. 经典数据编码到量子态
  1. n个qubits先通过卷积层即VQC,通过反向传播可更新的参数。
  1. 再通过池化层,得到个qubits,这种结构能够避免“贫瘠高原”问题。
  1. 重复2,3组成的卷积+池化 Layers,直至对需要的测量值数量为止。
  1. 最后是通过经典的全连接层。
notion image
基于QCNN的多通道数据,过去的工作如下面三篇文献的方法是对每个通道进行独立测量,这样会阻碍模型有效地学习通道间的”关系”。
  1. Oh S, Choi J, Kim J (2020) A tutorial on quantum convolutional neural networks (qcnn)
  1. Hong Z, Wang J, Qu X, Zhu X, Liu J, Xiao J (2021) Quantum convolutional neural network on protein distance prediction, pp 1–8.
  1. Chen SY-C, Wei T-C, Zhang C, Yu H, Yoo S (2022) Quantum convolutional neural networks for high energy physics data analysis. Phys Rev Res 4:013231.
而在下面这篇文章,他们是按像素数量比例去增加qubits数量,滤波器和三通道就需要12个量子比特。图上展示是就是这个简单的X旋转门编码方式。
  1. Jing Y, Li X, Yang Y, Wu C, Fu W, Hu W, Li Y, Xu H (2022) Rgb image classification with quantum convolutional ansatz. Quantum Inf Process 21:101.
notion image

The channel overwrite method

作者提出的CO通道覆盖方法,增加一个辅助qubit上的受控相位门来纠缠通道的信息。在本文的例子里,滤波器和三通道:
  1. 通道1上的经典数据被编码为量子态,并通过一组可学习(参数)酉运算操作。
  1. 然后通过一个受控相位门将量子信息”传送”到辅助量子比特上。
  1. 通道2上的…重复过程,直至处理完所有通道的数据
  1. 测量辅助量子比特,这个期望值作为QCNN模块的输出。
notion image
这个CO-QCNN方法只需要个qubits,的取值为滤波器的维度,由上图易见。
整个表达的是使用4个qubits完成RGB三通道的数据的处理。但没有表现出并行处理能力,这一部分将在下面的方法体现。

Parallel channel overwrite method

在上面的基础上,进行并行化,区别:上面那个按顺序编码R, G, B,这个是同时处理R, G, B(假设是颜图片)。这个PCO-QCNN方法减少了电路的深度,但增加了qubits的数量,这里用表示工作寄存器的数量,也就是个滤波器。
类似上面,将每个滤波器里的数据编码后,进行intra-channel通道内的数据纠缠,再进行inter-channel通道间的数据纠缠。对应辅助量子比特与每一个滤波器的第一个编码位的量子比特执行受控相位门。
从量子线路的图上可以看出,从原来的沿着横坐标分别编码RGB三通道的信息改为了纵坐标上同时处理这三通道的信息,可以简单地视为在一个时间内完成一张图片的信息处理。
notion image
notion image

Parallel channel overwrite - Topologically Considerate Method

文章使用表示通道数量,表示寄存器数量(kernel),随着的增大,很难从同一个辅助比特去控制对应的寄存器,对此作者提出了引入额外的ancilla qubits来缓解所用硬件的挑战。当然也需要一个酉门对这些辅助量子比特进行纠缠。
这个方法为PCO-T-QCNN,所需的量子比特数为,辅助比特数用表示。
notion image
滤波器如下图,4个线性纠缠X卷积门,然后用P旋转门和X卷积门将所在qubit的信息与当前首个qubit进行信息的传递。
notion image

Weighted expectation value method

加权期望值法(WEV)-QCNN,这个特征值其实就是经典卷积后的那个像素点的值,不过权重乘的是QCNN测量出来的期望值。和经典机器学习的关于输入的函数挺像的。就是量子卷积后的单个经典数据信息。是量子卷积后的波函数。这种方法知识和量子比特、门少和深度浅的线路。
原论文这里的公式写错了个符号,但不影响阅读。

Convolutional unitary blocks

这个单量子位门应用在中,其他文献中的应用:
  1. Schuld M, Bocharov A, Svore KM, Wiebe N (2020) Circuit-centric quantum classifiers. Phys Rev A 101(3):032308
  1. Oh S, Choi J, Kim J (2020) A tutorial on quantum convolutional neural networks (qcnn)

Result

这里的12通道数据集是做出来的,说明该方法对色块和含噪色块确实是有跨通道维度提取特征的能力,对比原版QCNN有非常大的提升。
PCO-QCNN选择门的二分类精度达到95.4%,而QCNN仅有85%;在十分类上是34.9%,QCNN则为28.2%
文章是将CIFAR-10的像素值归一化后,使用双线性插值法将图像降至。他们还准备了含早上的
表现最好的是CO-QCNN、PCO-QCNN、WEV-QCNN不论是使用
下面这张图的WEV的表现最好,但CO,PCO同样能够在适当的epoch实现高准确率。
notion image
含噪的12通道数据集上实现了100%的准确率(门)
notion image
在CIFAR-10的分类准确率如下。
notion image
notion image

Conclusions

比先前的工作实现了更高的精度,计算成本也更低。
Jing Y, Li X, Yang Y, Wu C, Fu W, Hu W, Li Y, Xu H (2022) Rgb image classification with quantum convolutional ansatz. Quantum Inf Process 21:101. https://doi.org/10.1007/s11128-022-03442-8
 
RX门,归一化的输入,旋转pi*x弧度。

Code