请问看到注意力机制使用softmax函数还是使用sigmoid函数？

senet使用的sigmoid，DANet，CCNet使用softmax？请问要捕获两个位置间的长距离的依赖关系是使用那个函数？

softmax函数是所有的分类概率加起来为1，那么这不是说只有几个特征位置能够增强，其他的位置信息不都被抑制了吗？，比如128*128特征，那抑制的信息太多了，不会出现问题吗？

sigmoid函数只是与自己有关，是不是就不能将两个位置的信息进行联系起来了？

其实就是想问注意力想捕获两个位置间的依赖关系，来进行图像分割，用什么？