Squid, SquidCacheAux e Cache Full  [INACTIVE]

Fórum de discussão exclusivo para "proxies".

Squid, SquidCacheAux e Cache Full

Mensagempor Diego » Sex Dez 14, 2012 3:11 am

Olá pessoal tenho uma dúvida sobre squid e squidCacheAux, em relação a carregar vídeos do youtube.

Quando eu vejo um vídeo por completo no youtube em um pc quando eu for assistir esse mesmo vídeo em outro computador ele vai carregar mais rápido ou já vai estar carregado?

Pelo que eu li e entendi o vídeo já estará pronto para assisti, se for isso eu fiz alguma coisa de errado pq aqui ela não fica carregado.

Código: Selecionar todos
INETTYPE='ETHERNET_DHCP'
DOMAINNAME='domain.local'
HOSTNAME='brazilfw'
LOCAL_IPADDR='10.0.100.10'
LOCAL_NETMASK='255.255.255.0'
NETMASK='255.255.255.0'
DHCPHOSTNAME='BFW'
DHCPSERVER='YES'
DHCPD_START_IP='10.0.100.100'
DHCPD_END_IP='10.0.100.150'
ADMIN_AUTH='D57TkSqF0WlyM8dPata9r1'
IF_LOCAL='eth1'
IF_INET='eth0'
TZ='EST3'
TIMESERVER='time-b.nist.gov'
USE_DNS_CACHE='YES'
ENABLE_CRON='YES'
ENABLE_EXTERNAL_SSH='NO'
WEBADMIN_PORT='8180'
SSH_PORT='22'
QOS_TYPE='DISABLED'
QOS_UPSTREAM='60'
QOS_DOWNSTREAM='8024'
QOS_FUP_BURST='8'
QOS_NUP_BURST='4'
QOS_SUP_BURST='2'
QOS_FDOWN_BURST='16'
QOS_NDOWN_BURST='8'
QOS_SDOWN_BURST='4'
QOS_DOWNSTREAM_INDIVIDUAL='25'
QOS_UPSTREAM_INDIVIDUAL='25'
QOS_DOWNSTREAM_JUNK='5'
QOS_UPSTREAM_JUNK='5'
QOS_UPFW_STREAM='10'
QOS_HIGH_PRI_PER='50'
QOS_NORM_PRI_PER='35'
QOS_SLOW_PRI_PER='15'
LANGUAGE_WEBADMIN='BRZ'
SQUID_ENABLE='1'
SQUID_PORT='8080'
SQUID_PROXY_TYPE='1'
SQUID_POLICY='ALL'
SQUID_DISK_CACHE_ENABLE='1'
SQUID_DISK_CACHE_SIZE='400'
SQUID_MEM_CACHE_SIZE='100'
SQUID_MAX_OBJ_SIZE='51200'
SQUID_MIN_OBJ_SIZE='4'
MAXCONN='0'
SQUID_LOG_ACCESS='0'
ERROR_LINGUAGE='Portuguese'
SQUID_URLB_ENABLE='0'
SQUID_WRDB_ENABLE='0'
SQUID_EWRD_ENABLE='0'
SQUID_EXTB_ENABLE='0'
SQUID_CACHE_ENABLE='1'
SQUID_PRIV_USER='0'
SQUID_NO_CONF='0'


Imagem da configuração do Squid.
Imagem
Imagem

Quando eu coloco essa configuração e aperto em enviar aparece isso.
Configuring Squid ...
Check Disk Cache Partition ... Mount!
Cron will be restarted within the next minute
Writing squid.conf file
Squid to reconfigure
Flush all old rules or create the chain if it is the first time
Configuring Transparent Proxy to Squid
Forwarding net 10.0.100.0/24

Depois faço o backup e recarrego e aparece isso.
Stopping Squid ... DONE
Cron will be restarted within the next minute
Flush all old rules or create the chain if it is the first time
Configuring Squid ...
Check Disk Cache Partition ... Mount!
Cron will be restarted within the next minute
Writing squid.conf file
Squid running now!
Flush all old rules or create the chain if it is the first time
Configuring Transparent Proxy to Squid
Forwarding net 10.0.100.0/24

Ate aqui estar tudo certo ou tem algum erro na configuração?

Essa é a configuração do SquiCacheAux.
Imagem
Aqui esta a foto de quando aperto em recarregar no SquidCacheAux.
Imagem
Tem alguma coisa de errado aqui?

O que eu quero fazer e assistir um vídeo no youtube em um pc e quando for assistir em outro ele já esteja pronto.
Editado pela última vez por Diego em Seg Dez 17, 2012 8:58 am, em um total de 2 vezes.
Avatar do usuário
Diego
BFW Participative
 
Mensagens: 120
Registrado em: Qua Jun 20, 2012 12:57 am
Localização: São Paulo (Zona Sul) - SP - Brasil
BrazilFW Box:

Re: Squid e SquidCacheAux

Mensagempor Diego » Sex Dez 14, 2012 1:49 pm

Estou pesquisando para saber mais sobre o Squid e me pergunto como eu faço para saber se o vídeo esta sendo carregado pelo cache e não pela internet?
Avatar do usuário
Diego
BFW Participative
 
Mensagens: 120
Registrado em: Qua Jun 20, 2012 12:57 am
Localização: São Paulo (Zona Sul) - SP - Brasil
BrazilFW Box:

Re: Squid e SquidCacheAux e Cache Full

Mensagempor Diego » Seg Dez 17, 2012 8:58 am

Pessoal alguém pode me ajudar não estou conseguindo usar o cache full.

coloquei aquele código na configuração do squid, mas nada mudou.

eu entrei aqui e coloquei o código.
Código: Selecionar todos
/usr/local/squid/etc/squid.conf

Código: Selecionar todos
### Zero Penalty Hits ### CACHE FULL
server_persistent_connections off
zph_mode tos
zph_local 0x30


e ficou assim o arquivo completo.
Código: Selecionar todos
http_port 8080 transparent
icp_port 0
#SquidCacheAux ACL start
acl store_rewrite_list urlpath_regex \/(get_video\?|videodownload\?|videoplayback.*id)
acl store_rewrite_list_orkut dstdomain .orkut.com .orkut.com.br
cache allow store_rewrite_list_orkut
acl QUERY2 urlpath_regex get_video\? videoplayback\? videodownload\?
cache allow QUERY2
acl youtube dstdomain .youtube.com
cache allow youtube
#SquidCacheAux ACL end
acl video_cache dstdomain -i "/usr/local/squid/etc/cache.flt"
cache allow video_cache
hierarchy_stoplist cgi-bin ?
   acl QUERY urlpath_regex cgi-bin \?
   cache deny QUERY
cache_replacement_policy heap LFUDA
memory_replacement_policy heap GDSF
cache_mem 32 MB
   maximum_object_size 51200 KB
   minimum_object_size 4 KB
   maximum_object_size_in_memory 64 KB
cache_dir diskd /partition/squid/cache 2770 16 256 Q1=72 Q2=64
access_log none
cache_store_log none

cache_effective_user nobody
cache_effective_group nogroup
pid_filename /var/run/squid.pid
half_closed_clients off
server_persistent_connections off
client_persistent_connections off
memory_pools on
buffered_logs on
pipeline_prefetch on

dns_retransmit_interval 15 seconds

#cache_swap_low 70
#cache_swap_high 90
#SquidCacheAux URL_REWRITE start
url_rewrite_program /etc/SquidCacheAux/redir.pl
url_rewrite_children 5
#SquidCacheAux URL_REWRITE end

#SquidCacheAux refresh_pattern start
refresh_pattern orkut.com/.* 10080 100% 43200 override-expire override-lastmod reload-into-ims ignore-reload
refresh_pattern orkut.com.br/.* 10080 100% 43200 override-expire override-lastmod reload-into-ims ignore-reload
refresh_pattern (get_video\?|videoplayback\?|videodownload\?) 5259487 99999999% 5259487 override-expire override-lastmod reload-into-ims ignore-reload ignore-no-cache ignore-private
refresh_pattern (get_video\?|videoplayback\?|videodownload\?|\.flv?)    129600 999999% 129600 ignore-no-cache ignore-private override-expire override-lastmod reload-into-ims
refresh_pattern (get_video\?|videoplayback\?id|videoplayback.*id|videodownload\?|\.flv?)    129600 999999% 129600 ignore-no-cache ignore-private override-expire override-lastmod reload-into-ims
refresh_pattern -i (get_video\?|videoplayback\?id|videoplayback.*id||videodownload\?|\.flv?)      129600 999999% 129600 ignore-no-cache ignore-private override-expire override-lastmod reload-into-ims
refresh_pattern ytimg\.com.*\.jpg               129600 999999% 129600   override-expire ignore-reload
#SquidCacheAux refresh_pattern end
refresh_pattern -i ^http://.*\.(css|htm|html|ico|js|jsp|xml)$ 1440 80% 999999
refresh_pattern -i ^http://.*\.(bmp|gif|jpeg|jpg|png)$ 1440 80% 999999 ignore-reload
refresh_pattern -i ^http://.*\.(ace|adt|arj|asf|avi|bin|bz2|bzip|cab|dat|dll|doc|dot|exe|fla|flv|gz|iso|lha|log|lzh|mdb|mid|mov|mp3|mpeg|mpg|msi|mso|ogg|pps|ppt|rar|rm|rtf|shs|src|sys|swf|tgz|tif|ttf|wav|wma|wri|wmv|vpu|vpaa|vqf|vob|zip)$ 43200 100% 999999 ignore-reload

refresh_pattern ^ftp:   1440   20%   10080
refresh_pattern ^gopher:   1440   0%   1440
refresh_pattern .      0   20%   4320

acl all src 0.0.0.0/0.0.0.0
acl localhost src 127.0.0.1/255.255.255.255
#acl to_localhost dst 127.0.0.1/32

acl SSL_ports port 443 563
acl Safe_ports port 80
acl Safe_ports port 21
acl Safe_ports port 443 563
acl Safe_ports port 70
acl Safe_ports port 210
acl Safe_ports port 8180
acl Safe_ports port 1025-65535
acl Safe_ports port 280
acl Safe_ports port 488
acl Safe_ports port 591
acl Safe_ports port 777
acl Safe_ports port 901

acl manager proto cache_object
acl PURGE method PURGE
acl CONNECT method CONNECT

http_access allow PURGE localhost
http_access allow manager localhost
http_access deny PURGE
http_access deny manager
http_access deny !Safe_ports
http_access deny CONNECT !SSL_ports

### Zero Penalty Hits ### CACHE FULL
server_persistent_connections off
zph_mode tos
zph_local 0x30
acl internal_net src "/usr/local/squid/etc/ipaccess.yes"

#Access deny to Squid ident. header
header_access Via deny all
header_access X-Forwarded-For deny all
header_access Proxy-Connection deny all
header_access Accept-Encoding deny all
http_access allow internal_net
http_access deny all
#http_reply_access allow all
#icp_access allow all
acl apache rep_header Server ^Apache
broken_vary_encoding allow apache
visible_hostname brazilfw
   coredump_dir /partition/squid/cache
   error_directory /usr/local/squid/share/errors/Portuguese
#SquidCacheAux STOREURL start
storeurl_access allow store_rewrite_list
storeurl_access allow store_rewrite_list_orkut
storeurl_access deny all
storeurl_rewrite_program /etc/SquidCacheAux/storeurl.pl
storeurl_rewrite_children 5
storeurl_rewrite_concurrency 5
#SquidCacheAux STOREURL end


como não funcionou eu tbm entrei nesse arquivo de configuração e coloquei o código lá.
Código: Selecionar todos
/usr/local/squid/etc/squid_2.tpl

Código: Selecionar todos
### Zero Penalty Hits ### CACHE FULL
server_persistent_connections off
zph_mode tos
zph_local 0x30


e o arquivo completo ficou assim.
Código: Selecionar todos
cache_effective_user nobody
cache_effective_group nogroup
pid_filename /var/run/squid.pid
half_closed_clients off
server_persistent_connections off
client_persistent_connections off
memory_pools on
buffered_logs on
pipeline_prefetch on

dns_retransmit_interval 15 seconds

#cache_swap_low 70
#cache_swap_high 90

refresh_pattern -i ^http://.*\.(css|htm|html|ico|js|jsp|xml)$ 1440 80% 999999
refresh_pattern -i ^http://.*\.(bmp|gif|jpeg|jpg|png)$ 1440 80% 999999 ignore-reload
refresh_pattern -i ^http://.*\.(ace|adt|arj|asf|avi|bin|bz2|bzip|cab|dat|dll|doc|dot|exe|fla|flv|gz|iso|lha|log|lzh|mdb|mid|mov|mp3|mpeg|mpg|msi|mso|ogg|pps|ppt|rar|rm|rtf|shs|src|sys|swf|tgz|tif|ttf|wav|wma|wri|wmv|vpu|vpaa|vqf|vob|zip)$ 43200 100% 999999 ignore-reload

refresh_pattern ^ftp:   1440   20%   10080
refresh_pattern ^gopher:   1440   0%   1440
refresh_pattern .      0   20%   4320

acl all src 0.0.0.0/0.0.0.0
acl localhost src 127.0.0.1/255.255.255.255
#acl to_localhost dst 127.0.0.1/32

acl SSL_ports port 443 563
acl Safe_ports port 80
acl Safe_ports port 21
acl Safe_ports port 443 563
acl Safe_ports port 70
acl Safe_ports port 210
acl Safe_ports port 8180
acl Safe_ports port 1025-65535
acl Safe_ports port 280
acl Safe_ports port 488
acl Safe_ports port 591
acl Safe_ports port 777
acl Safe_ports port 901

acl manager proto cache_object
acl PURGE method PURGE
acl CONNECT method CONNECT

http_access allow PURGE localhost
http_access allow manager localhost
http_access deny PURGE
http_access deny manager
http_access deny !Safe_ports
http_access deny CONNECT !SSL_ports

### Zero Penalty Hits ### CACHE FULL
server_persistent_connections off
zph_mode tos
zph_local 0x30


Só que ainda não estar funcionando e agora o que fazer?
Avatar do usuário
Diego
BFW Participative
 
Mensagens: 120
Registrado em: Qua Jun 20, 2012 12:57 am
Localização: São Paulo (Zona Sul) - SP - Brasil
BrazilFW Box:

Re: Squid, SquidCacheAux e Cache Full

Mensagempor Diego » Seg Dez 17, 2012 12:03 pm

Pessoal ajuda aí esta complicado daqui a pouco eu travo o bfw de tanto reiniciar, estou mexendo no Squid, SquidCacheAux para fazer o cache dos vídeos do youtube. Já instalei Tiny MySAR para ver os relatórios, mas ão aparece nada aqui. Deve estar tudo errado aqui.

Li algumas coisas falando que tenho que deixar o QOS Baseado nas Subredes e criar uma SubRedes. Esta ficando cada vez pior a situação.

Nas configurações do SquidCacheAux eu Habilitar CacheFull no SquidCacheAux, mas ai ele pediu o Qos e subredes.
Eu só quero fazer cache dos vídeos não queria cria subrede e nem qos.
Código: Selecionar todos
arando o SquidCacheAux...
Parando SquidCacheAux WebServer (PID: 18710)... Ok
Iniciando o SquidCacheAux...
Confirmando status do serviço... Habilitado!
Confirmando existência de diretórios... Ok
Verificando dependências:
    Confirmando se o Squid está instalado... Ok
    Confirmando se o cache em disco está habilitado no Squid... Ok
    Verificando tamanho máximo de objetos em cache... Ok
    Confirmando existência do interpretador Perl... Ok
    Confirmando se o 'Date::Parse' está instalado... Ok
    Confirmando se o 'lynx' está instalado... Ok
    Confirmando se o 'nice' está instalado... Ok
Verificando qual WebServer será utilizado... Lighttpd
Iniciando SquidCacheAux WebServer (PID: 29291)... Ok
Confirmando status da checagem diária do cache... Habilitado!
Verificando arquivos de configuração... Ok
Obtendo lista de plugins personalizados... Ok
Carregando plugin personalizado (AVAST)... Ok
Carregando plugin personalizado (AVG)... Ok
Carregando plugin personalizado (AVG)... Ok
Carregando plugin personalizado (Adobe-Acrobat)... Ok
Carregando plugin personalizado (AntiVir)... Ok
Carregando plugin personalizado (AntiVir)... Ok
Carregando plugin personalizado (F-Secure)... Ok
Carregando plugin personalizado (Giant-AntiSpyware)... Ok
Carregando plugin personalizado (Kaspersky)... Ok
Carregando plugin personalizado (Kaspersky)... Ok
Carregando plugin personalizado (Kaspersky)... Ok
Carregando plugin personalizado (Kaspersky)... Ok
Carregando plugin personalizado (Nod32)... Ok
Carregando plugin personalizado (QuickTime)... Ok
Carregando plugin personalizado (Sophos)... Ok
Carregando plugin personalizado (Sun-Java)... Ok
Carregando plugin personalizado (Sun-Java)... Ok
Carregando plugin personalizado (Symantec-updates)... Ok
Carregando plugin personalizado (Youtube)... Ok
Verificando configurações no squid.conf... OK
Inserindo configurações no squid.conf... OK
Reconfigurando o squid... Ok
Iniciando CacheFull no SquidCacheAux (Plugins)...
Verificando dependências:
    Confirmando status do CacheFull no SquidCacheAux... Habilitado!
    Confirmando se o QoS é baseado nas subredes... OK
    Confirmando se o ZPH (velocidade) está configurado... Falha!

    Não foi definida uma velocidade para o ZPH!!!

    O SquidCacheAux será iniciado, porém, sem suporte ao ZPH!

Pronto!
Avatar do usuário
Diego
BFW Participative
 
Mensagens: 120
Registrado em: Qua Jun 20, 2012 12:57 am
Localização: São Paulo (Zona Sul) - SP - Brasil
BrazilFW Box:

Re: Squid, SquidCacheAux e Cache Full

Mensagempor Paulo2 » Seg Dez 17, 2012 7:13 pm

Olá Diego, pela tela do Squid no primeiro post posso dar dois palpites,
o primeiro é usar todo o tamanho de hd que o Squid indica, no teu caso 2770MB.
O limite recomendado é 5000MB (5GB)
http://www.brazilfw.com.br/forum/viewtopic.php?f=80&t=68202
A explicação da relação entre RAM total instalada e RAM para o Squid está
nesse tutorial
http://www.brazilfw.com.br/forum/viewtopic.php?f=39&t=67300&start=0&st=0&sk=t&sd=a#p158200

O segundo palpite é aumentar o tamho máximo do objeto.
No teu caso o máximo é 51200KB (51,2MB), ou seja, qualquer arquivo pouco maior
que 51MB não será cacheado.
Teste com 100000KB (100MB) ou mais como máximo, isso sem dúvida vai pegar mais arquivos,
se o problema for esse deve dar algum resultado.


Quanto ao ZPH, ele só funciona com QOS habilitado, e pela informação da página do QOS
no webadmin, só no QOS baseado em subredes.
Mas tem esse tutorial sobre como usar ZPH, QOS desabilitado e sem subredes
http://www.brazilfw.com.br/forum/viewtopic.php?f=90&t=74856
Pesquise o fórum.
As chances de sua dúvida já ter sido respondida são de 93,57%

Cooperação com os moderadores é indispensável,
eles trabalham para manter o bom funcionamento do fórum.
Por favor, leia as regras do Forum.
Resolveu, então encerre corretamente seu tópico.
Avatar do usuário
Paulo2
BFW Team
BFW Beneméritos
 
Mensagens: 721
Registrado em: Qui Set 21, 2006 1:57 am
BrazilFW Box: Máquina: Física
CPU: Pentium 233
Memória: 128MiB / 1 Link
BFW 2.32.2
Serviços Ativos: bandwidthd, thttpd, crond
pure-ftpd, logread, squid, bwmon, upnpd
Addons: bandwidthd, edited-root, iptraf
libcrypto, libgd, libiconv, libmagic, libpng
lynx, msmtp, nmap-lib, nmap, pure-ftpd
squid, tcpdump, upnp

Re: Squid, SquidCacheAux e Cache Full

Mensagempor Diego » Ter Dez 18, 2012 12:47 am



Então coloquei as configurações no squid para fazer o cache full do jeito que estar nesse link que vc me mandou.
E os códigos ficaram assim.
Código: Selecionar todos
/usr/local/squid/etc/squid.conf

Código: Selecionar todos
http_port 8080 transparent
icp_port 0
#SquidCacheAux ACL start
acl store_rewrite_list urlpath_regex \/(get_video\?|videodownload\?|videoplayback.*id)
acl store_rewrite_list_orkut dstdomain .orkut.com .orkut.com.br
cache allow store_rewrite_list_orkut
acl QUERY2 urlpath_regex get_video\? videoplayback\? videodownload\?
cache allow QUERY2
acl youtube dstdomain .youtube.com
cache allow youtube
#SquidCacheAux ACL end
acl video_cache dstdomain -i "/usr/local/squid/etc/cache.flt"
cache allow video_cache
hierarchy_stoplist cgi-bin ?
   acl QUERY urlpath_regex cgi-bin \?
   cache deny QUERY
cache_replacement_policy heap LFUDA
memory_replacement_policy heap GDSF
cache_mem 32 MB
   maximum_object_size 100000 KB
   minimum_object_size 4 KB
   maximum_object_size_in_memory 64 KB
cache_dir diskd /partition/squid/cache 2770 16 256 Q1=72 Q2=64
access_log none
cache_store_log none

cache_effective_user nobody
cache_effective_group nogroup
pid_filename /var/run/squid.pid
half_closed_clients off
server_persistent_connections off
client_persistent_connections off
memory_pools on
buffered_logs on
pipeline_prefetch on

dns_retransmit_interval 15 seconds

#cache_swap_low 70
#cache_swap_high 90
#SquidCacheAux URL_REWRITE start
url_rewrite_program /etc/SquidCacheAux/redir.pl
url_rewrite_children 5
#SquidCacheAux URL_REWRITE end

#SquidCacheAux refresh_pattern start
refresh_pattern orkut.com/.* 10080 100% 43200 override-expire override-lastmod reload-into-ims ignore-reload
refresh_pattern orkut.com.br/.* 10080 100% 43200 override-expire override-lastmod reload-into-ims ignore-reload
refresh_pattern (get_video\?|videoplayback\?|videodownload\?) 5259487 99999999% 5259487 override-expire override-lastmod reload-into-ims ignore-reload ignore-no-cache ignore-private
refresh_pattern (get_video\?|videoplayback\?|videodownload\?|\.flv?)    129600 999999% 129600 ignore-no-cache ignore-private override-expire override-lastmod reload-into-ims
refresh_pattern (get_video\?|videoplayback\?id|videoplayback.*id|videodownload\?|\.flv?)    129600 999999% 129600 ignore-no-cache ignore-private override-expire override-lastmod reload-into-ims
refresh_pattern -i (get_video\?|videoplayback\?id|videoplayback.*id||videodownload\?|\.flv?)      129600 999999% 129600 ignore-no-cache ignore-private override-expire override-lastmod reload-into-ims
refresh_pattern ytimg\.com.*\.jpg               129600 999999% 129600   override-expire ignore-reload
#SquidCacheAux refresh_pattern end
refresh_pattern -i ^http://.*\.(css|htm|html|ico|js|jsp|xml)$ 1440 80% 999999
refresh_pattern -i ^http://.*\.(bmp|gif|jpeg|jpg|png)$ 1440 80% 999999 ignore-reload
refresh_pattern -i ^http://.*\.(ace|adt|arj|asf|avi|bin|bz2|bzip|cab|dat|dll|doc|dot|exe|fla|flv|gz|iso|lha|log|lzh|mdb|mid|mov|mp3|mpeg|mpg|msi|mso|ogg|pps|ppt|rar|rm|rtf|shs|src|sys|swf|tgz|tif|ttf|wav|wma|wri|wmv|vpu|vpaa|vqf|vob|zip)$ 43200 100% 999999 ignore-reload

refresh_pattern ^ftp:   1440   20%   10080
refresh_pattern ^gopher:   1440   0%   1440
refresh_pattern .      0   20%   4320

acl all src 0.0.0.0/0.0.0.0
acl localhost src 127.0.0.1/255.255.255.255
#acl to_localhost dst 127.0.0.1/32

acl SSL_ports port 443 563
acl Safe_ports port 80
acl Safe_ports port 21
acl Safe_ports port 443 563
acl Safe_ports port 70
acl Safe_ports port 210
acl Safe_ports port 8180
acl Safe_ports port 1025-65535
acl Safe_ports port 280
acl Safe_ports port 488
acl Safe_ports port 591
acl Safe_ports port 777
acl Safe_ports port 901

acl manager proto cache_object
acl PURGE method PURGE
acl CONNECT method CONNECT

http_access allow PURGE localhost
http_access allow manager localhost
http_access deny PURGE
http_access deny manager
http_access deny !Safe_ports
http_access deny CONNECT !SSL_ports

#------   CONTROLE DE BANDA -------
acl controle1 url_regex -i src 10.0.100.0/24
acl controle2 url_regex -i \.exe$ \.mp3$ \.zip$ \.rar$ \.avi$ \.iso$ \.mpg$ \.mov$ \.rm$ \.msi$ \.rmvb$ \.7z$ \.wma$ \.wmv$ \.mp4$ \.flv$
delay_pools 2
delay_class 1 2
delay_parameters 1 -1/-1 -1/-1
delay_class 2 2
delay_parameters 2 -1/-1 800000/800000
delay_access 1 allow controle1
delay_access 2 allow controle2
#--------------------------------

### Zero Penalty Hits ###
server_persistent_connections off
zph_mode tos
zph_local 0x30
acl internal_net src "/usr/local/squid/etc/ipaccess.yes"

#Access deny to Squid ident. header
header_access Via deny all
header_access X-Forwarded-For deny all
header_access Proxy-Connection deny all
header_access Accept-Encoding deny all
http_access allow internal_net
http_access deny all
#http_reply_access allow all
#icp_access allow all
acl apache rep_header Server ^Apache
broken_vary_encoding allow apache
visible_hostname brazilfw
   coredump_dir /partition/squid/cache
   error_directory /usr/local/squid/share/errors/Portuguese
#SquidCacheAux STOREURL start
storeurl_access allow store_rewrite_list
storeurl_access allow store_rewrite_list_orkut
storeurl_access deny all
storeurl_rewrite_program /etc/SquidCacheAux/storeurl.pl
storeurl_rewrite_children 5
storeurl_rewrite_concurrency 5
#SquidCacheAux STOREURL end


essa foi a parte que copiei e coloque dentro do arquivo, as partes em vermelho foi o que mudei.
#------ CONTROLE DE BANDA -------
acl controle1 url_regex -i src
10.0.100.0/24
acl controle2 url_regex -i \.exe$ \.mp3$ \.zip$ \.rar$ \.avi$ \.iso$ \.mpg$ \.mov$ \.rm$ \.msi$ \.rmvb$ \.7z$ \.wma$ \.wmv$ \.mp4$ \.flv$
delay_pools 2
delay_class 1 2
delay_parameters 1 -1/-1 -1/-1
delay_class 2 2
delay_parameters 2 -1/-1
800000/800000
delay_access 1 allow controle1
delay_access 2 allow controle2
#--------------------------------

### Zero Penalty Hits ###
server_persistent_connections off
zph_mode tos
zph_local 0x30


-->No primeiro item em vermelho do código que mudei o ip Redes para o SQUID coloquei 10.0.100.0/24 esse zero estar certo? eu coloquei porque li alguma coisa dizendo que era para colocar, porque na verdade seria 10.0.100.10/24

--> O segundo em vermelho e sobre taxa de download de acordo com o link que vc me passou, como eu não quero colocar um limite de kpbs coloquei um valor alto.

No webmim a tela do Squid ficou assim, coloquei um circulo em vermelho no ip de rede porque estou com dúvida se estar certo dessa maneira.
Imagem

Teste com 100000KB (100MB) ou mais como máximo, isso sem dúvida vai pegar mais arquivos,
se o problema for esse deve dar algum resultado.


Eu fiz essa mudança mas não notei nada sendo cacheado pelo squid li que quando o squid faz o cache aparece alguma coisa no Tiny MySAR mas ele fica em branco, devo estar fazendo alguma coisa de errado, pois vejo um vídeo de um minuto no youtube não aparece nada no Tiny Mysar e quando vou ver novamente e o vídeo carrega da internet.

Imagem

Quanto ao ZPH, ele só funciona com QOS habilitado, e pela informação da página do QOS
no webadmin, só no QOS baseado em subredes.
Mas tem esse tutorial sobre como usar ZPH, QOS desabilitado e sem subredes
http://www.brazilfw.com.br/forum/viewtopic.php?f=90&t=74856


E sobre o QOS e Subrede por enquanto não tenho interesse de colocar eles na rede, a não se que eles sejam addons necessários para funcionar o cache dos vídeos do youtube.
Avatar do usuário
Diego
BFW Participative
 
Mensagens: 120
Registrado em: Qua Jun 20, 2012 12:57 am
Localização: São Paulo (Zona Sul) - SP - Brasil
BrazilFW Box:

Re: Squid, SquidCacheAux e Cache Full

Mensagempor Paulo2 » Ter Dez 18, 2012 12:46 pm

Agora que eu vi que estamos no fórum errado :mrgreen: a tua dúvida provavelmente
teria mais visibilidade e mais respostas no fórum de Proxies.


O item "Redes para o Squid" está certo, deve ser preenchido com o endereço da rede.
Pode ter uma ou mais redes ou pode ser mais genérico, como 10.0.0.0/8 ou 192.168.0.0/16,
pegando toda a rede.

Quanto ao ZPH-cache full, dei uma lida (por alto, são seis tópicos :mrgreen: )
no tópico do SCA http://www.brazilfw.com.br/forum/viewtopic.php?f=15&t=72201
Achei algumas informações, por exemplo a opção "Forçar cache" do Squid deve estar desabilitada.
Apesar de ser um tópico longo (são seis tópicos com quatro ou cinco páginas cada) vale
a pena ler ou pelo menos pesquisar no tópico :o!

Outras explicações sobre como o Squid+SCA faz cache separado, os vídeos do Youtube são
cacheados no cache do Squid e não no SCA, etc.
http://www.brazilfw.com.br/forum/viewtopic.php?f=15&t=77362&p=246878&hilit=full#p246878

Acho que o melhor é vc reinstalar o Squid e mudar apenas as configurações de cache no hd, como
habilitar cache no hd, tamanho de memória e máximo/mínimo do objeto, e adicionar as linhas do ZPH.
Os relatos naquele tópico são que regras adicionadas e regras alteradas no arquivo de configuração
do Squid podem interferir no funcionamento do SCA.

Depois instale o SCA e configure. De acordo com o tópico do SCA, ele funciona com instâncias dos scripts,
então se tiver mais acessos do que instâncias, os acessos a mais não serão cacheados, então vc deve
prestar atenção nesses detalhes pra configurar o SCA de acordo com a tua necessidade.

Se mesmo assim o cache não funcionar na velocidade full, vale a pena testar com QOS baseado em subredes
e subredes.
Pesquise o fórum.
As chances de sua dúvida já ter sido respondida são de 93,57%

Cooperação com os moderadores é indispensável,
eles trabalham para manter o bom funcionamento do fórum.
Por favor, leia as regras do Forum.
Resolveu, então encerre corretamente seu tópico.
Avatar do usuário
Paulo2
BFW Team
BFW Beneméritos
 
Mensagens: 721
Registrado em: Qui Set 21, 2006 1:57 am
BrazilFW Box: Máquina: Física
CPU: Pentium 233
Memória: 128MiB / 1 Link
BFW 2.32.2
Serviços Ativos: bandwidthd, thttpd, crond
pure-ftpd, logread, squid, bwmon, upnpd
Addons: bandwidthd, edited-root, iptraf
libcrypto, libgd, libiconv, libmagic, libpng
lynx, msmtp, nmap-lib, nmap, pure-ftpd
squid, tcpdump, upnp

Re: Squid, SquidCacheAux e Cache Full

Mensagempor Diego » Ter Dez 18, 2012 2:33 pm

Paulo2 escreveu:Agora que eu vi que estamos no fórum errado :mrgreen: a tua dúvida provavelmente
teria mais visibilidade e mais respostas no fórum de Proxies.


Como eu mano minha dúvida para esse fórum de Proxies?

Acho que o melhor é vc reinstalar o Squid e mudar apenas as configurações de cache no hd, como
habilitar cache no hd, tamanho de memória e máximo/mínimo do objeto, e adicionar as linhas do ZPH.
Os relatos naquele tópico são que regras adicionadas e regras alteradas no arquivo de configuração
do Squid podem interferir no funcionamento do SCA.


Eu já estava pensando em fazer isso já mexir demais nas configurações do bfw deve ter zuado alguma coisa, vou instalar apenas o easy captive, squid, dnds cache e tny msar.

e vou fazer as configuração no squid pra ver o que vai dar, daqui a pouco te falo o resultado.
Avatar do usuário
Diego
BFW Participative
 
Mensagens: 120
Registrado em: Qua Jun 20, 2012 12:57 am
Localização: São Paulo (Zona Sul) - SP - Brasil
BrazilFW Box:

Re: Squid, SquidCacheAux e Cache Full

Mensagempor Paulo2 » Ter Dez 18, 2012 3:16 pm

Diego escreveu:Como eu mano minha dúvida para esse fórum de Proxies?

Vamos esperar um administrador mover o tópico :o!



Diego escreveu:Eu já estava pensando em fazer isso já mexir demais nas configurações do bfw deve ter zuado alguma coisa, vou instalar apenas o easy captive, squid, dnds cache e tny msar.

e vou fazer as configuração no squid pra ver o que vai dar, daqui a pouco te falo o resultado.

Pra evitar dor de cabeça, já que o problema é o Squid+SCA, desisntale todos os addons
e depois do BFW ficar zerado instale o Squid, configure e tenha certeza que funciona, depois
instale o SCA e configure.
Depois vá adicionando os addons mais importantes pra vc.
Procure naquele(s) tópico(s) "SquidCacheAux - Cache Auxiliar do Squid" por alguma citação
sobre os addons pra ver se não existe problema relatado. E o fórum "Proxies" é um bom lugar
pra procurar também.
Espero que vc consiga fazer funcionar, pois os relatos do pessoal são de grande economia
de banda com o SCA :o!
Pesquise o fórum.
As chances de sua dúvida já ter sido respondida são de 93,57%

Cooperação com os moderadores é indispensável,
eles trabalham para manter o bom funcionamento do fórum.
Por favor, leia as regras do Forum.
Resolveu, então encerre corretamente seu tópico.
Avatar do usuário
Paulo2
BFW Team
BFW Beneméritos
 
Mensagens: 721
Registrado em: Qui Set 21, 2006 1:57 am
BrazilFW Box: Máquina: Física
CPU: Pentium 233
Memória: 128MiB / 1 Link
BFW 2.32.2
Serviços Ativos: bandwidthd, thttpd, crond
pure-ftpd, logread, squid, bwmon, upnpd
Addons: bandwidthd, edited-root, iptraf
libcrypto, libgd, libiconv, libmagic, libpng
lynx, msmtp, nmap-lib, nmap, pure-ftpd
squid, tcpdump, upnp

Re: Squid, SquidCacheAux e Cache Full

Mensagempor Eduardo » Ter Dez 18, 2012 8:15 pm

Tópico movido.
Links úteis:
Regras do Fórum
Ajude-nos a ajuda-lo (Como Postar dúvidas/testes)
Tutorial "Aprendendo a Postar"
Como encerrar corretamente seu tópico
-----------------------------------------------------------------------------------------------------------------
* Voce ganha dinheiro com o Projeto BrazilFW? Então contribua com o Projeto BFW, faça uma doação clicando aqui
Avatar do usuário
Eduardo
BFW Moderator
BFW Beneméritos
BFW Manager
 
Mensagens: 3688
Registrado em: Dom Jul 12, 2009 1:27 pm
Localização: São Paulo (Zona Sul) - SP - Brasil
BrazilFW Box: Não usando o BFW no momento.

Re: Squid, SquidCacheAux e Cache Full

Mensagempor Diego » Ter Dez 18, 2012 9:42 pm

Eu configurei o BFW de acordo com esse tutorial passo a passo do ADRIEL ROCHA.

CACHE FULL E CONTROLE DE BANDA BRAZIL FW VIDEO AULA 1 ROCHA
http://www.youtube.com/watch?v=fldIwF76-aM

CACHE FULL E CONTROLE DE BANDA BRAZIL FW VIDEO AULA 2 - ROCHA
http://www.youtube.com/watch?v=00cYCmlBMk0

CACHE FULL E CONTROLE DE BANDA BRAZIL FW VIDEO AULA 3 - ROCHA
http://www.youtube.com/watch?v=yHw-CXVQi68

CACHE FULL E CONTROLE DE BANDA BRAZIL FW VIDEO AULA 4 - ROCHA
http://www.youtube.com/watch?v=KD_PNfM0Pcw

CACHE FULL E CONTROLE DE BANDA BRAZIL FW VIDEO AULA 5 - ROCHA
http://www.youtube.com/watch?v=8OB8HzOZdI0

CACHE FULL E CONTROLE DE BANDA BRAZIL FW VIDEO AULA 6 - ROCHA
http://www.youtube.com/watch?v=DnxgfnlLII0

CACHE FULL E CONTROLE DE BANDA BRAZIL FW VIDEO AULA 7 - ROCHA
http://www.youtube.com/watch?v=Tywytj_Ci0s

CACHE FULL E CONTROLE DE BANDA BRAZIL FW VIDEO AULA 8 - ROCHA
http://www.youtube.com/watch?v=ddLPcqEXdQ8

Nos vídeos 3 e 4 ele ensina colocar os addons coloquei todos na mesma sequencia a única modificação foi no ip da minha rede 10.0.100.10, gostaria de saber se esta faltando algum addon? Porque no vídeo 8 ele ensina fazer o cache full dos vídeos do youtube, mas aqui no meu pc não funcionou e fiquei com uma dúvida nesse vídeo 8, porque ele fez o cache para um único pc colocando o código na configuração do squid, eu gostaria de liberar ip para + ou - uns 50 micros como vou fazer isso?

E os relatórios do tiny mysar não aparece nada fica da mesma maneira da foto a cima.
Avatar do usuário
Diego
BFW Participative
 
Mensagens: 120
Registrado em: Qua Jun 20, 2012 12:57 am
Localização: São Paulo (Zona Sul) - SP - Brasil
BrazilFW Box:

Re: Squid, SquidCacheAux e Cache Full

Mensagempor Diego » Qua Dez 19, 2012 12:13 pm

aqui estão todos os addons que eu instalei no bfw, gostaria de saber se esta faltando algum essencial para rodar o cache full?

01) wget http://www.brazilfw.com.br/users/MarcinhoSamurai/addons/2.31.10/SquidCacheAux.tgz
02) wget http://www.brazilfw.com.br/downloads/addons/squid-2.32.x/squid.tgz
03) wget http://www.brazilfw.com.br/users/angelruiz/addons/perl_oficial/perl.tgz
04) wget http://www.brazilfw.com.br/users/MarcinhoSamurai/addons/2.3x/PerlDateTimeModule.tgz
05) wget http://www.brazilfw.com.br/users/MarcinhoSamurai/addons/2.3x/lynx.tgz
06) wget http://www.brazilfw.com.br/users/MarcinhSamurai/addons/2.3x/nicewget.tgz
07) wget http://www.brazilfw.com.br/users/coidiloco/dnscache.tgz
08) wget http://www.brazilfw.com.br/users/nachazo/official/librerias/libcrypto.tgz
09) wget http://www.brazilfw.com.br/users/daniel.uramg/2.3x/ec/easycaptive.tgz
10) wget http://www.brazilfw.com.br/downloads/addons/libcrypto.tgz
11) wget http://www.brazilfw.com.br/users/bender/addons/msmtp/msmtp.tgz
12) wget http://www.brazilfw.com.br/users/thiagofw/Addons/imspector/tinyims.tgz
13) wget http://www.brazilfw.com.br/users/cmartin/addons/tiny/tinyphp.tgz
14) wget http://www.brazilfw.com.br/users/cmartin/addons/tiny/tinysql3.tgz
15) wget http://www.brazilfw.com.br/users/cmartin/addons/tiny/libssl.tgz
16) wget http://www.brazilfw.com.br/users/cmartin/addons/tiny/libcrypt.tgz
17) wget http://www.brazilfw.com.br/users/cmartin/addons/tiny/tinymsar.tgz
18) wget http://www.brazilfw.com.br/users/cmartin/addons/tiny/tinyphp.tgz
19) wget http://www.brazilfw.com.br/users/cmartin/addons/tiny/tinymsql.tgz


eu instalei os addons nessa sequencia.

como ficou minha configuração do squid depois que seguir o tutorial do vídeo 8 sobre cache full.
Código: Selecionar todos
cache_effective_user nobody
cache_effective_group nogroup
pid_filename /var/run/squid.pid
half_closed_clients off
server_persistent_connections off
client_persistent_connections off
memory_pools on
buffered_logs on
pipeline_prefetch on

dns_retransmit_interval 15 seconds

#cache_swap_low 70
#cache_swap_high 90

refresh_pattern -i ^http://.*\.(css|htm|html|ico|js|jsp|xml)$ 1440 80% 999999
refresh_pattern -i ^http://.*\.(bmp|gif|jpeg|jpg|png)$ 1440 80% 999999 ignore-reload
refresh_pattern -i ^http://.*\.(ace|adt|arj|asf|avi|bin|bz2|bzip|cab|dat|dll|doc|dot|exe|fla|flv|gz|iso|lha|log|lzh|mdb|mid|mov|mp3|mpeg|mpg|msi|mso|ogg|pps|ppt|rar|rm|rtf|shs|src|sys|swf|tgz|tif|ttf|wav|wma|wri|wmv|vpu|vpaa|vqf|vob|zip)$ 43200 100% 999999 ignore-reload

refresh_pattern ^ftp:   1440   20%   10080
refresh_pattern ^gopher:   1440   0%   1440
refresh_pattern .      0   20%   4320

acl all src 0.0.0.0/0.0.0.0
acl localhost src 127.0.0.1/255.255.255.255
#acl to_localhost dst 127.0.0.1/32

# ACLS (CONTROLE DE BANDA)

acl planospeed src 10.0.100.136 #ROCHATEST

# Delay Pools (REGRAS)

delay_pools 1
delay_class 1 2

delay_access 1 allow planospeed

delay_parameters 1 -1/-1 128001/128001 # 1 MEGA

# Fim do squid (PARAMETROS FINAIS)

acl SSL_ports port 443 563
acl Safe_ports port 80
acl Safe_ports port 21
acl Safe_ports port 443 563
acl Safe_ports port 70
acl Safe_ports port 210
acl Safe_ports port 8180
acl Safe_ports port 1025-65535
acl Safe_ports port 280
acl Safe_ports port 488
acl Safe_ports port 591
acl Safe_ports port 777
acl Safe_ports port 901

acl manager proto cache_object
acl PURGE method PURGE
acl CONNECT method CONNECT

http_access allow PURGE localhost
http_access allow manager localhost
http_access deny PURGE
http_access deny manager
http_access deny !Safe_ports
http_access deny CONNECT !SSL_ports

### Zero Penalty Hits ### CACHE FULL
server_persistent_connections off
zph_mode tos
zph_local 0x30


Estar certo é isso mesmo?
Avatar do usuário
Diego
BFW Participative
 
Mensagens: 120
Registrado em: Qua Jun 20, 2012 12:57 am
Localização: São Paulo (Zona Sul) - SP - Brasil
BrazilFW Box:

Re: Squid, SquidCacheAux e Cache Full

Mensagempor Diego » Qua Dez 19, 2012 9:51 pm

Alguém me ajuda aí, já li uma monte de coisa e estou ficando confuso.

Eu tenho 4Gb de hd no total na minha maquina isso é suficiente para fazer o cache sem dar pau?

não quero fazer cache de tudo como downloads de arquivos, exe. doc. Quero fazer o cache das paginas de internet para melhorar o desempenho e dos vídeos do youtube.
Avatar do usuário
Diego
BFW Participative
 
Mensagens: 120
Registrado em: Qua Jun 20, 2012 12:57 am
Localização: São Paulo (Zona Sul) - SP - Brasil
BrazilFW Box:

Re: Squid, SquidCacheAux e Cache Full

Mensagempor Diego » Qui Dez 20, 2012 1:49 pm

O squid estar funcionando ele faz o bloqueio das lista negra e palavras proibidas, mas não sei se ele estar fazendo o cache como descubro isso?
Avatar do usuário
Diego
BFW Participative
 
Mensagens: 120
Registrado em: Qua Jun 20, 2012 12:57 am
Localização: São Paulo (Zona Sul) - SP - Brasil
BrazilFW Box:

Re: Squid, SquidCacheAux e Cache Full

Mensagempor ggsguilherme » Sáb Dez 29, 2012 12:30 pm

Estou com o mesmo problema, configurei de acordo com esse tutorial se alguem puder ajudar ficarei grato.
ggsguilherme
 

Re: Squid, SquidCacheAux e Cache Full

Mensagempor thiagogoncalves » Seg Jan 07, 2013 8:17 am

Também não consegui aplicar o full cache para o youtube, a internet está muito rápida mais os videos no youtube vão travando a cada 5 segundos para carregar e com muito custo ele termina de reproduzir tudo se você voltar para o inicio do vídeo ele carrega tudo de novo.
thiagogoncalves
 


Voltar para Proxies

Quem está online

Usuários navegando neste fórum: Nenhum usuário registrado e 17 visitantes